Во второй день конференции Hot Chips 2026 компания OpenAI представила детальные технические характеристики проекта, центральным элементом которого стал новый процессор Jalapeno — собственный специализированный чип (ASIC) для инференса и аппаратного комплекса, созданного в сотрудничестве с Broadcom. Архитектура разработана специально под рабочие нагрузки инференса самой OpenAI. Ричард Хо, Рави Нараянасвами и Крис Лири рассказали о стремительном пути кремния от исходного кода RTL до выхода из производства (tapeout), занявшем всего около девяти месяцев. Они также сопоставили производительность новинки с чипами NVIDIA GB200 и GB300, уделив особое внимание памяти HBM4 и пространственной модели программирования.

OpenAI позиционирует свой продукт в первую очередь как полноценную платформу для инференса, а не как изолированный вычислительный ускоритель. Речь идет о связке кремния с парой из хоста и стойки ускорителей, которая нацелена на достижение передовых показателей производительности на ватт при низкой задержке для многочиповых задач. Подобный результат стал возможен благодаря одновременному проектированию аппаратного и программного обеспечения при поддержке искусственного интеллекта.

Разработка и архитектурные ориентиры

Работа над проектом ускорилась после того, как в OpenAI пришли к выводу, что для задач инференса и автономных агентских сценариев необходима специализированная архитектура. Согласно представленной хронологии, концепт зародился в конце 2024 года, заморозка RTL состоялась в 2025 году, выход кремния с производства (tapeout) пришелся на конец 2025-го, запуск рабочей среды Codex состоялся в начале 2026 года, а вскоре после этого на чипе заработал и ChatGPT.

Специалисты компании строят оценку эффективности вокруг главных метрик: времени получения последнего токена для оценки пользовательского опыта и количества токенов на джоуль для измерения эффективности инференса. В качестве бенчмарка OpenAI использует InferenceX — публичный инструмент с нормализованным энергопотреблением, охватывающий набор открытых моделей во всем диапазоне от этапа предварительного заполнения до генерации.

Сравнение производительности и тестирование моделей

Новинка функционирует в режиме прогнозирования одного токена, в то время как сравниваемые системы от NVIDIA используют многотокеновое прогнозирование. Представленные данные демонстрируют, как MTP задействует короткие шаги черновой модели и пакетный проход большой базовой модели для генерации до восьми выходных токенов за раз, снижая количество ресурсоемких проходов.

Для стресс-тестирования пределов задержки OpenAI задействовала модель GPT-OSS. DeepSeek R1 послужила хорошим примером для работы черновых моделей, а терабайтная модель Kimi K2.5 продемонстрировала масштабирование на большом количестве устройств. Примечательно, что ни одна из этих трех моделей изначально не проектировалась под данное железо, однако специалисты смогли запустить их все в период между возвратом кремния ревизии A0 в лабораторию и моментом проведения конференции.

Для конфигурации с моделью GPT-OSS платформа удерживает лидирующие позиции на отметке в 700 ватт против 1200 ватт у GB200, превосходя конкурента по полезной пропускной способности на киловатт при равной задержке. В сопоставимых рабочих точках устройство демонстрирует примерно в 1,9 раза более высокую пиковую смешанную производительность в токенах в секунду на киловатт и приблизительно в 1,7 раза меньшую сквозную задержку.

Тестирование модели DeepSeek R1 в формате MXFP4 подтверждает аналогичную тенденцию в более крупном масштабе. Ускоритель удерживает Парето-границу при энергопотреблении 700 ватт на фоне 1400 ватт у чипа GB300. На этой задаче превосходство в сопоставимых точках становится еще заметнее: новинка выдает примерно в 1,7 раза больше пиковых смешанных токенов на киловатт в секунду, обеспечивает в 3,6 раза меньшую сквозную задержку, а на рекордных значениях времени между токенами предлагает в разы большую пропускную способность.

Масштабирование на модели Kimi K2.5 с параметрами в один триллион служит серьезной проверкой. Кремниевая разработка удерживает лидерство при энергопотреблении в 700 ватт против 1400 ватт у GB300 при развертывании в формате MXFP4. Именно на Kimi K2.5 наблюдается наибольший относительный разрыв во всем наборе тестов, где устройство выдает в 1,5 раза больше пиковых смешанных токенов в секунду на киловатт и обеспечивает меньшую задержку.

Архитектурные особенности и борьба с узкими местами

Переходя к технической архитектуре, разработчики указывают, что любой отдельный запрос охватывает три аппаратных этапа: префилл с ограничением по вычислительной мощности, работу небольшой предварительной модели при сверхнизком батче для чувствительных к задержкам спекуляций, а также декодирование с проверкой спекуляций, ограниченное пропускной способностью памяти. Каждая стадия упирается в собственный узкий элемент, поэтому общая эффективность имеет значение только тогда, когда весь запрос укладывается в целевые показатели.

Изменения в структуре рабочей нагрузки перераспределяют баланс между префиклом, черновым проходом и верификацией. Архитектура предлагает в ответ единый сбалансированный чип, в котором блоки, простаивающие на определенных этапах, переводятся в режим пониженного энергопотребления. Это избавляет от необходимости оплачивать базовый корпус, память HBM, интерфейсы ввода-вывода и сетевую мощность отдельного ускорителя.

Память, межсоединения и методология проектирования

Параметры пропускной способности памяти HBM4 впечатляют на бумаге: в конфигурации из 128 чипов суммарный показатель превышает один петабайт в секунду. Тем не менее, компания признает, что реальная система работает значительно ниже этих значений, указывая на то, что чистая пропускная способность — далеко не единственный лимитирующий ресурс. Пути с большой задержкой и дорогие глобальные барьеры памяти заставляют вычислительные блоки простаивать.

Архитектура решает эту проблему путем сопряжения каждого ядра с собственным срезом памяти HBM для обеспечения быстрого локального доступа, а также добавления специализированной коллективной сети с низкими задержками для типичных шаблонов межъядерного взаимодействия. Локальный домен объединяет до 128 ASIC с минимальной задержкой между ядрами, а двухуровневая топология Clos с наполовину сглаженной структурой на базе коммутаторов Broadcom Tomahawk6 охватывает глобальный домен из 2048 чипов.

Программная экосистема и итоговые характеристики

Программная модель чипа создавалась так, чтобы оставаться понятной для человека и при этом максимально удобной для программирования передовыми системами искусственного интеллекта. Аппаратная часть предоставляет в распоряжение локальные тензоры, быстрые локальные пути и явные механизмы коммуникации, благодаря чему поисковые алгоритмы искусственного интеллекта способны самостоятельно брать на себя задачи по маппингу, размещению, планированию и конвейеризации.

Современное устройство выдает 13,4 петафлопса матричных вычислений в формате mxfp4, обеспечивает пропускную способность памяти HBM4 на уровне 15,4 ТБ/с при общем объеме 216 ГиБ и потребляет 700 ватт в рамках одного корпуса. В масштабах кластера из 2048 чипов система способна масштабироваться до 27 экзафлопс и 432 ТиБ памяти. Представители компании позиционируют данное решение как первое поколение в рамках многоэтапной дорожной карты, открывающей новые возможности для развития индустрии.

Источник: servethehome.com