Производительность и особенности нового процессора

Всего через неделю после того, как корпорация Nvidia согласилась выступить гарантом финансирования дата-центров на сумму до 105 миллиардов долларов, компания OpenAI представила на конференции Hot Chips собственные бенчмарки. Согласно этим данным, новый чип OpenAI Jalapeño превосходит графический процессор Nvidia GB300. Разработанный совместно с Broadcom специализированный инференс-процессор (ASIC) продемонстрировал в 1,5–1,9 раза большую пропускную способность на киловатт и в 1,7–3,6 раза меньшую сквозную задержку по сравнению со стоечными системами Nvidia GB200 и GB300 в тестах открытого пакета InferenceX от аналитиков SemiAnalysis. Решение с энергопотреблением 700 Вт противостояло ускорителям номинальной мощностью 1200 Вт и 1400 Вт. Развертывание данных компонентов в собственной инфраструктуре разработчики планируют начать до конца текущего года.

Испытания охватывали три открытые модели: GPT-OSS 120B, DeepSeek R1 670B, а также Kimi K2.5 с одним триллионом параметров от Moonshot AI. Наибольший отрыв зафиксирован в сценариях с низкими задержками: на самых быстрых настройках времени между токенами для GB300 показатели пропускной способности на киловатт у разработки OpenAI оказались выше в 8,6–104,3 раза. Специалисты нормализовали результаты относительно заявленного производителями расчетного тепловыделения каждого ускорителя, хотя реальное устоявшееся энергопотребление Jalapeño находилось на уровне 550 Вт или ниже. В приложении к исследованию, где учитывалось суммарное энергопотребление на уровне розеток (1,18 кВт против 2,55 кВт для GB300), разница становится менее выраженной. Сокращается преимущество по пиковой эффективности и в случае сопоставления с GB300, выполняющим прогнозирование нескольких токенов одновременно, — тогда разрыв падает примерно до 1,5 раз.

Сравнение архитектур и особенности тестирования

Важно отметить, что прямое сопоставление не проводилось с платформой Vera Rubin от Nvidia, которая должна лечь в основу первой гигаваттной системы по соглашению с OpenAI, запланированному на вторую половину 2026 года. Кроме того, новый процессор не предназначен для обучения моделей — в этом сегменте оборудование Nvidia пока остается вне конкуренции. Основные сравнительные тесты противопоставляли однотокеновое прогнозирование Jalapeño аналогичному режиму работы GB300, хотя на практике инфраструктура Nvidia чаще задействует многотокеновое предсказание. По словам представителей SemiAnalysis, которые тестировали архитектуру совместно с инженерами OpenAI в лаборатории компании, это изделие превосходит все чипы от Nvidia, AMD и Google, которые им доводилось проверять.

Каждый чип Jalapeño, представленный в июне после девятимесячного цикла разработки от уровня RTL до передачи в производство, объединяет вычислительный кристалл с шестью стеками памяти HBM4 общей емкостью 216 ГиБ при пропускной способности 15,4 ТБ/с. Для сравнения, GB300 оснащается 288 ГБ памяти HBM3E при лимите потребления в 1400 Вт, то есть в расчете на ватт номинальной мощности устройство OpenAI располагает примерно на 50% большим объемом памяти. В презентации на Hot Chips подчеркивается, что архитектура нацелена на максимальное раскрытие совокупной пропускной способности HBM, а не на простое наращивание ее объема.

Рынок памяти и дальнейшие планы компании

Высокоскоростная память остается самым дефицитным ресурсом в полупроводниковой отрасли. Ведущие производители — Samsung, SK hynix и Micron — уже распродали свои мощности по выпуску HBM на период до 2027 года. Дефицит приобрел такие масштабы, что Nvidia тестирует урезанные конфигурации платформы Rubin Ultra с объемом памяти всего 192 ГБ. Генеральный директор SK hynix Квак Но Чжун ранее предупреждал, что 2027 год станет самым тяжелым периодом этого кризиса. Компания Micron отметила, что для создания аналогичного объема памяти HBM расходуется примерно втрое больше площади кремниевой пластины, чем для стандартной DDR5, и с каждым новым поколением этот показатель растет.

Масштабирование Jalapeño в рамках десятигигаваттного соглашения о развертывании, подписанного с Broadcom в октябре прошлого года, превратит компанию в крупного игрока на рынке поставок HBM4, где в настоящее время доминирует Nvidia благодаря долгосрочным контрактам с SK hynix. Согласно данным Bloomberg, к передаче в производство уже готовится чип второго поколения, появление которого ожидается в ближайшие месяцы, а параллельно ведутся проектные работы над третьей генерацией. Первое изделие выпускается по техпроцессу класса 3 нм на мощностях TSMC, что сохраняет за разработчиком те же очереди на кремниевые пластины, память и передовую упаковку, что и для линеек Blackwell и Rubin.

Процесс закупки аппаратных компонентов сопровождается укреплением финансовых связей с компанией, чипы которой только что подверглись публичному сравнению. 17 августа корпорация Nvidia согласилась предоставить финансирование в размере до 105 миллиардов долларов для строящегося кампуса дата-центров OpenAI в Огайо, который будет арендован последней. Ричард Хо, вице-президент OpenAI по аппаратному обеспечению, отметил в интервью Bloomberg после объявления сделки, что Nvidia остается отличным стратегическим партнером, в продукции которого по-прежнему сохраняется огромная потребность.

Источник: tomshardware.com