Мой блог
Liquid AI представила d1: модель принятия решений с нулевым числом токенов на выходе
Компания Liquid AI презентовала модель принятия решений d1, которая принципиально отличается от генеративных языковых систем. Вместо привычного текстового ответа новинка выдает структурированные данные, откалиброванные вероятности и фиксированный набор исходов за один вызов, полностью исключая генерацию токенов.
Инструмент создан для автоматизации рутинных задач, которые раньше перекладывали на классические LLM: классификации, маршрутизации запросов, скоринга, модерации и проверок в стиле «LLM как судья». Развернуть систему можно уже сегодня через облачный API.
Что такое модель принятия решений?
Специализированная модель оценивает текущий контекст и возвращает типизированный ответ по заранее заданным вариантам, не занимаясь написанием текста. В любых отчетах параметр usage.output_tokens всегда равен нулю. Согласно рекомендациям разработчиков, если финальный результат представляет собой один из нескольких известных вариантов, следует использовать именно такую модель. Обычные LLM нужны только тогда, когда требуется скомпоновать принципиально новую строку.
Три базовых примитива: Noul, Choice и Score
Архитектура поддерживает три ключевых типа запросов, которые можно комбинировать в рамках одного обращения к системе:
- Noul — вопрос с ответом «да/нет», возвращающий вероятность от 0 до 1. В тестовых примерах системы проверка сообщения на предмет жалобы выдавала показатель 0.999.
- Choice — выбор одного варианта из заранее определенного списка с указанием наиболее вероятного исхода, полного распределения и коэффициента уверенности.
- Score — оценка входных данных по упорядоченной шкале, возвращающая позицию с весовым коэффициентом вероятности (индексация начинается с нуля).
Все типы вопросов обрабатываются одновременно за один сетевой раунд-трип на базе единого состояния контекста.
Как устроен вызов API модели d1
Каждый запрос к системе состоит из трех обязательных компонентов: идентификатора модели, актуального состояния (в виде простого текста или JSON-объекта) и набора проверочных вопросов. Обращения отправляются на адрес конечной точки POST https://api.liquid.ai/decisions/v1/systemone с ключами доступа из личного кабинета консоли разработчика. Для интеграции поддерживаются специальные клиентские библиотеки от TypeSafe AI для Python и TypeScript.
Почему стоит перенести классификацию с LLM на d1
Руководство по миграции выделяет ряд ключевых преимуществ специализированного подхода по сравнению с генеративными сетями со структурированным выводом:
- Отсутствие платы за сгенерированные токены даже для коротких меток.
- Предсказуемая задержка без долгого цикла декодирования.
- Гарантия отсутствия ошибок синтаксиса схемы: ответы всегда строго соответствуют типу вопроса.
- Использование откалиброванных вероятностей вместо внутренних оценок уверенности модели.
- Сокращение числа сетевых запросов за счет объединения проверок.
Вероятностный подход упрощает настройку пороговых значений: например, модерация может автоматически блокировать контент при показателе выше 0.8, пропускать при значении ниже 0.2, а промежуточный диапазон отправлять на ручную проверку. При этом классические языковые модели по-прежнему незаменимы для суммаризации, генерации текстов, написания кода и многошаговых рассуждений.
Демонстрационный проект: Road Decider
В качестве демонстрации возможностей разработчики подготовили пиксельный гоночный симулятор выживания. В нем модель d1 задействует примитив Choice для принятия решений о маневрах (влево, прямо или вправо) с частотой до пяти раз в секунду. Приложение написано на чистом JavaScript для Node.js 18+ с использованием Vite-прокси для безопасного хранения ключа API на сервере. Эксперименты показали, что детальное проектирование состояния — например, передача расстояния до ближайшего препятствия по полосам движения — обеспечивает гораздо более высокую точность управления, чем анализ сырой игровой сетки.
Интерактивный разбор: пошаговая работа d1
Специализированная архитектура органично вписывается в конвейеры обработки данных, где критически важна скорость реакции и абсолютная предсказуемость формата ответа. Отсутствие генеративной фазы избавляет от необходимости парсить громоздкие JSON-ответы или обрабатывать исключения, вызванные отклонением модели от заданной схемы.
Сравнение d1 с ближайшими конкурентами
Модель d1 занимает свою нишу в развивающемся сегменте негенеративных систем принятия решений. Если сравнивать ее с аналогами по ключевым техническим характеристикам, можно отметить упор на облачную инфраструктуру API, отсутствие необходимости самостоятельного хостинга весов и оптимизацию под быстрые логические проверки без генерации текста.
Основные выводы
Новая разработка возвращает типизированные решения с откалиброванными вероятностями без затрат на генерацию токенов. Три базовых примитива перекрывают большинство задач маршрутизации, модерации, триажа и ранжирования. Сервис доступен через облачную платформу Liquid API, а для творческих и разговорных задач рекомендуется продолжать использование традиционных нейросетей.
