Мой блог
OpenAI переводит Decisions API на базе GPT-6 Luna в общий доступ
Компания OpenAI объявила о переводе своего интерфейса Decisions API на базе модели GPT-6 Luna из статуса публичной бета-версии в полноценный общий доступ. Стоимость использования эндпоинта составляет 0,10 доллара за один миллион входных токенов.
Новый инструмент ориентирован на обработку запросов, требующих точных и ограниченных ответов в режиме, приближенном к реальному времени. В качестве входных данных поддерживаются текстовые фрагменты, графические материалы и структурированные данные.
Принцип работы Decisions API
Все запросы направляются на эндпоинт POST /v1/decisions, где модель gpt-6-luna на текущий момент выступает единственным поддерживаемым вариантом. Каждая отправка объединяет общий контекст (текстовую строку либо упорядоченный массив сообщений, вызовов инструментов и их результатов) с количеством вопросов от 1 до 400. В ответ система возвращает массив ответов, в котором отображаются назначенные разработчиком имена вопросов.
Типы поддерживаемых вопросов
Разработчикам доступно три формата вопросов. Первый — предикативный вопрос, который возвращает вероятность от 0 до 1 для проверки истинности определенного условия, например наличия видимых повреждений на фотографии товара. Второй — выбор варианта, позволяющий выбрать одну из заранее заданных разработчиком опций с выдачей вероятностей для каждого пункта и показателя уверенности. Третий — оценка по шкале, которая оценивает входные данные по двум-десяти упорядоченным уровням рубрикатора и возвращает средневзвешенное значение индексов с учетом вероятностей.
Передача данных и ограничения
Структурированные данные можно передавать напрямую через блок input_json в сообщении пользователя, а изображения принимаются в виде встроенных URL-адресов base64 либо через общедоступные ссылки HTTP и HTTPS. Поскольку допускается передача истории диалога, интерфейс способен оценивать запросы в текущем контексте. Документация указывает, что файлы, аудиозаписи и ссылки на элементы не поддерживаются, а эндпоинт не принимает входы типа file_id. Для зависимых от предыдущих ответов решений рекомендуется отправлять отдельные запросы.
Новые функции после публичного бета-тестирования
После завершения этапа публичного тестирования разработчики добавили нативную интеграцию с GPT-Live, кэширование промптов для повторно используемого контекста, а также поддержку размещения вычислений в Соединенных Штатах и Европейском Союзе наряду с дополнительными мощностями в регионах Азии. Теперь пользователи могут передавать нативные JSON-входы, включать изображения в инструкции к вопросам и задавать до 400 вопросов за один запрос, что вдвое превышает прежний лимит.
Кэширование и интеграция с GPT-Live
Система кэширования промптов позволяет повторно использовать совпадающий префикс общего ввода длиной не менее 1024 токенов со скидкой на чтение. Интеграция с GPT-Live дает возможность голосовым приложениям обрабатывать решения по мере поступления входящих или исходящих транскрипций, генерируя соответствующие события для реагирования программы.
Практическое применение и результаты оценок
Внутренние команды OpenAI уже задействуют API в рабочих процессах: подразделение dots сокращает время отклика, команда персональных финансов классифицирует описания транзакций, а отдел коммуникаций классифицирует материалы СМИ по темам и оценивает их соответствие ключевым нарративам. Сторонние компании также отметили прирост производительности и снижение затрат при интеграции инструмента в свои продукты.
Ценовая политика и контроль данных
Базовая стоимость Decisions API составляет 0,10 доллара за миллион входных токенов и 0,01 доллара за миллион кэшированных входных токенов, при этом плата за выходные токены не взимается. Для соответствующих требованиям клиентов доступны функции нулевого хранения данных и соответствие стандартам HIPAA, а тестирование запросов можно проводить через специальную панель Decisions Playground.
