Тэг
LLM
Как устроена инфраструктура эмбеддингов Perplexity: разбор архитектуры Ivy, Tulip и ROSE
Разбор GPU-стека Perplexity для генерации эмбеддингов: архитектура сервисов Ivy, Tulip и ROSE, оптимизация CUDA-графов и асинхронный паттерн LazyTensor.
Читать далее
Как Claude Code воссоздаёт макеты в Figma через MCP: подробный разбор расходов и токенов
Подробный разбор эксперимента по переносу веб-сайтов в макеты Figma с помощью AI-агента Claude Code и Figma MCP. Анализ расходов токенов, скриптов анализа и сравнение работы по скриншоту и URL.
Читать далее
6 бесплатных AI API-шлюзов: доступные модели, лимиты и реальные тесты RPM
Практический разбор и нагрузочные тесты 6 бесплатных AI API-шлюзов: VyceAI, Experiential Labs, Dahl Inference, APInex, ModelRouter и TokenForge. Проверка лимитов RPM, стартовых бонусов и списка моделей.
Читать далееЗапуск LLM на Apple Neural Engine: реверс-инжиниринг и запуск Qwen без CPU и GPU
Практическое руководство по запуску языковых моделей Qwen на нейромодуле Apple Neural Engine (ANE) без использования CPU и GPU с помощью Rust и реверс-инжиниринга MIL.
Читать далее
Как работают автономные ИИ-агенты: архитектурный разбор модели, инструментов, памяти и цикла управления
Подробный архитектурный разбор автономных ИИ-агентов: как взаимодействуют модель, инструкции, инструменты, память и цикл управления, и как проектировать надежные агентированные системы.
Читать далее
LLM и 152-ФЗ: как легально использовать нейросети с данными клиентов
Как бизнесу использовать LLM и AI-агентов без нарушений 152-ФЗ. Разбираем варианты подключения нейросетей, требования Роскомнадзора и методы обезличивания данных.
Читать далее
Обзор Vault Audit AI для Obsidian: от локального аудита заметок к семантическому поиску и RAG
Подробный архитектурный разбор плагина Vault Audit AI для Obsidian: деление на чанки, локальный семантический индекс, автосинхронизация и RAG-система Ask your Vault.
Читать далее
OpenAI представила GPT-6 Astra: автономную модель управления ПК с контекстом 1,05M токенов и жестким контролем доступа
OpenAI представила модель GPT-6 Astra для прямого управления ПК с контекстом 1.05M токенов. Разбор возможностей, результатов в бенчмарках, тарифов API и жестких ограничений безопасности.
Читать далее
LLM зацикливается в продакшене: как локализовать петлю повтора без слепой смены параметров
Полный разбор причин зацикливания LLM в продакшене: почему слепое увеличение repetition_penalty вредит системе, как работать с vLLM, анализировать logprobs и оптимизировать промпты.
Читать далее
Anthropic выпустила Claude Commerce Agents: открытый фреймворк Apache 2.0 для торговых ИИ-ассистентов
Anthropic опубликовала открытый фреймворк Claude Commerce Agents (Apache 2.0) для создания ИИ-ассистентов в e-commerce, ритейле и сфере услуг. Разбор архитектуры, скиллов и методов оптимизации.
Читать далее
