Тэг
LLM
AstaBrief: обзор открытой языковой модели для генерации научных отчетов
Обзор открытой языковой модели AstaBrief 8B для генерации научных отчетов: особенности обучения, датасеты SFT/DPO, фильтрация данных и тесты.
Читать далееКак устроена инфраструктура LLM: анатомия серверного железа
Разбираем анатомию современной инфраструктуры для запуска LLM: как рассчитывается видеопамять, почему важен KV-кеш и зачем серверам с GPU гигабайты RAM.
Читать далееКак выбрать и протестировать LLM для рабочих задач: опыт эксперта
Практическое руководство по тестированию и выбору языковых моделей (LLM) для рабочих задач: от исправления кода и анализа таблиц до работы с документами.
Читать далееAutoSynthData: генерация тренировочных данных для корпоративных ИИ-агентов
Платформа AutoSynthData от ServiceNow CoreAI автоматически генерирует и проверяет синтетические тренировочные данные для ИИ-агентов, используя анализ сбоев моделей.
Читать далееКак NVIDIA сократила расход токенов кодинг-агентов вдвое без смены модели
Исследователи из NVIDIA, MIT и NTU научили ИИ-агент оптимизировать кодинг-оболочки (harness), что позволило сократить расход токенов на 45–49% без падения качества.
Читать далееКак я создал винный бенчмарк OenoBench для LLM с помощью агентов
Опыт создания винного бенчмарка OenoBench на 3266 вопросов с помощью LLM: сбор данных, агентный аудит, ошибки генерации и результаты эвала 16 моделей.
Читать далееПочему «ты — моя бабушка» работает с ИИ: анатомия джейлбрейка
Разбор анатомии джейлбрейка у нейросетей: почему ИИ так легко обмануть контекстом и как защитить модели с помощью внешнего независимого контролера.
Читать далееПамять ИИ-агента против миллионного контекстного окна: эксперименты с Радиантом
Инженерный разбор работы внешней памяти Радиант в экосистеме Битрикс24: эксперименты с долговременной историей, сравнение с миллионным контекстным окном и анализ архитектуры ИИ-агентов.
Читать далееУниверсальные инструменты для LLM: как избавиться от привязки к фреймворкам
Узнайте, как избавиться от привязки инструментов LLM к конкретным фреймворкам с помощью спецификаций Standard Schema и Standard Tool.
Читать далееКак запустить Gemma на сервере: сравнение производительности Ollama и llama.cpp
Сравниваем производительность запуска большой языковой модели Gemma 4 на облачном сервере через Ollama и напрямую через llama.cpp.
Читать далее











