Суверенный ИИ для цепочек поставок: как NVIDIA и Palantir автоматизируют логистику чипов

Компания NVIDIA в сотрудничестве с Palantir Technologies объявила о создании совместного программно-аппаратного стека суверенного искусственного интеллекта, предназначенного для управления критически важными цепочками поставок. Первой площадкой для реального развертывания системы стала собственная сложная логистическая инфраструктура NVIDIA, обеспечивающая производство ускорителей и суперкомпьютерных стоек.

В основу решения легло объединение открытых языковых моделей семейства NVIDIA Nemotron с платформами Palantir Foundry и Palantir Artificial Intelligence Platform (AIP), функционирующими на базе единой онтологии данных (Palantir Ontology). По заявлению разработчиков, созданный комплекс предоставляет логистическим командам единый ситуационный центр для оперативного принятия решений по распределению материалов. При этом ключевым преимуществом платформы остается соблюдение цифрового суверенитета: заказчики сохраняют монопольный контроль и право собственности на свои корпоративные данные.

Масштаб альянса и технологические задачи

Запуск совместного стека впервые продемонстрировали на конференции Palantir AIPCon 11. Партнеры подчеркивают, что архитектура носит универсальный характер и легко адаптируется под нужды предприятий из самых разных сфер: от агросектора, ритейла и фармацевтики до тяжелого машиностроения, высокотехнологичного производства и государственного сектора.

Масштаб собственных операций NVIDIA колоссален: глобальная сеть включает миллионы наименований деталей, тысячи смежников и обширную сеть контрактных производителей. Выпуск и развертывание современных ИИ-систем стойкового масштаба требует точнейшей синхронизации поставок вычислительных модулей, чипов памяти, сетевого оборудования, систем питания, охлаждения и механики. К примеру, одна стойка нового поколения NVIDIA Vera Rubin состоит из 1,3 миллиона компонентов, где задержка отдельной детали способна остановить всю сборку.

Генеральный директор Palantir Алекс Карп отметил, что NVIDIA обладает одной из наиболее сложных и ценных цепочек поставок в мире. По его словам, суверенный стек на базе моделей Nemotron и Онтологии обеспечивает производительность, превосходящую стандартные передовые решения, гарантируя при этом защиту коммерческих тайн («альфа-защиту»). В свою очередь, глава NVIDIA Дженсен Хуанг подчеркнул, что главная цель проекта — трансформировать операционный граф производства ИИ-инфраструктуры в суверенный интеллект, способный скоординировать весь путь изделия: от кремниевой пластины на заводе (wafer) до выдачи готовых токенов в дата-центре.

Цепочка поставок NVIDIA и единый командный центр Foundry

В техническом материале, выпущенном вместе с официальным релизом, специалисты NVIDIA раскрыли метрики, по которым оценивается эффективная работа производственной цепочки. Оценка строится на интервале от «выхода пластины» (wafer-out) до «первого токена» (first token). Этот цикл делится на два ключевых отрезка:

• Time-to-rack («время до стойки»): период с момента выхода готового кремниевого кристалла с фабрики до доставки полностью собранной вычислительной системы на площадку ЦОД;
• Time-to-token («время до токена»): этап пусконаладки, подводки питания, охлаждения, настройки сетей и ПО, необходимый для того, чтобы инфраструктура начала выполнять реальные вычисления.

Для понимания масштаба: платформа Grace Blackwell NVL72 собирается силами десятков OEM- и ODM-партнеров. В состав всего одного вычислительного поддона GB200 NVL72 (а их в стандартной стойке 18 штук) входят два центральных процессора Grace, четыре графических чипа Blackwell и 32 стека высокоскоростной памяти HBM3e. При этом цепочка поставок для платформ семейства Vera Rubin оказалась ровно вдвое обширнее, чем для Grace Blackwell.

Чтобы отслеживать простаивание комплектующих, NVIDIA использует показатель Time of Ownership («время владения»). Он измеряет промежуток времени с момента прибытия сырья или компонентов на завод до отгрузки готового узла клиенту или на следующий этап сборки.

Каждую неделю аналитики компании вручную решали так называемую проблему распределения критических материалов (critical material allocation problem). Им приходилось рассчитывать, сколько компонентов и на какие именно фабрики необходимо направить в течение текущего и следующего кварталов. Для автоматизации этого процесса команда NVIDIA совместно с Palantir развернула ситуационный центр Digital Supply Chain Intelligence на базе Foundry. Онтология соединила в единый управленческий слой информацию о деталях, заводах, обязательствах перед клиентами, доступных мощностях, прошлых распределениях и объёмах производства, а также неструктурированные текстовые сигналы.

В роли математического ядра выступает библиотека NVIDIA cuOpt — открытый инструмент для GPU-ускоренной оптимизации решений. Он решает еженедельную задачу аллокации как задачу смешанно-целочисленного линейного программирования. Главная цель алгоритма — минимизировать метрику Time of Ownership. Модуль cuOpt считывает данные из Онтологии, производит вычисления и записывает результаты обратно. Кроме того, библиотека умеет определять узкие места (ограничения по объемам памяти или мощности заводов) и позволяет проводить сценарное моделирование — например, оценивать последствия 10-процентного падения поставок HBM3e или ввода в строй нового сборочного цеха.

Дообучение Nemotron на практических решениях экспертов

Интересный нюанс выяснился в ходе ретроспективного анализа прошлых решений. Когда NVIDIA и Palantir сравнили автоматические расчеты математического солвера cuOpt с реальными историческими данными, оказалось, что специалисты-плановики справлялись с распределением ресурсов лучше алгоритма. Причина проста: люди учитывали косвенные факторы, недоступные жестким математическим моделям — деловую переписку по email, сводки неблагоприятных погодных условий, геополитические риски, текстовые расшифровки переговоров с поставщиками и свой многолетний практический опыт.

Разработчики решили применить этот человеческий опыт для обучения ИИ. Информация о каждом принятом решении, его обосновании, прогнозируемом и фактическом результате аккуратно фиксировалась в Онтологии, создав уникальный датасет. На этой базе было проведено дообучение модели Nemotron 3.5 Lightning. Это открытая архитектура типа Mixture-of-Experts (MoE) на 30 миллиардов параметров, из которых при каждом прямом проходе активируется порядка 3 миллиардов. Модель выбрали благодаря её заточенности под исполнение агентных сценариев и возможности точечной донастройки внутри локального контура предприятия.

Процесс подготовки данных и обучения включал несколько этапов:

• Обезличивание конфиденциальной и персональной информации с помощью модуля NeMo Anonymizer;
• Генерация и балансировка синтетических примеров через NeMo Data Designer;
• Обучение небольшого набора адаптеров LoRA с использованием NeMo AutoModel при полностью замороженных весах базовой модели;
• Управление полным циклом данных и развертыванием через Palantir Autopilot.

Результаты оказались впечатляющими: на тестовых бенчмарках специализированная модель достигла точности распределения ресурсов в 86.7%. Для сравнения, более крупная базовая модель Nemotron 3 Ultra показала лишь 55.5%, а базовая Nemotron 3.5 Lightning без дообучения — 17.5%. Сбалансированная точность составила 58.6% (против 42.0% у Ultra), а показатель Macro-F1 достиг 57.5% (против 39.5%). Такой подход критически важен, так как в реальной жизни плановикам приходится урезать объемы поставок намного чаще, чем увеличивать их.

Впрочем, разработчики честно указывают на ограничения: высокий прирост точности наблюдается именно в той узкой предметной области, на которой училась модель. Прогнозировать новые глобальные риски всё еще сложно. При этом процедура дообучения LoRA заняла всего несколько минут на двух ускорителях NVIDIA B200, что позволяет легко повторять процесс по мере накопления свежего опыта.

При этом ИИ не принимает решений полностью самостоятельно: в системе реализован принцип «человек в контуре» (Human-in-the-loop). Модель выдает рекомендованный диапазон распределения с детальным объяснением логики и рисков, но финальное утверждение остается за человеком. Любые правки, отклонения или одобрения снова записываются в Онтологию для последующего обучения с подкреплением (RL).

Суверенное развертывание и инфраструктурная экосистема

Учитывая высокую степень секретности логистических данных NVIDIA, вся система построена на базе эталонной архитектуры Palantir Sovereign AI Operating System Reference Architecture (SAIOS) и аппаратных референсов NVIDIA. Партнёрами по аппаратному обеспечению выступают компании Dell Technologies и Cisco.

Платформа поддерживается для развертывания как на локальных серверах предприятия (on-premises) через решения Cisco и Dell, так и в изолированных гибридных или облачных средах на базе инфраструктуры Nebius и Rackspace.

В рамках платформы Palantir AIP инструмент cuOpt берёт на себя задачи сценарного анализа и математической оптимизации, а библиотеки NeMo Data Libraries, NeMo AutoModel и NeMo RL связываются с Palantir Autopilot. В результате создается управляемый замкнутый цикл обучения (governed learning loop), проверяющий качество ИИ-рекомендаций на реальных жизненных показателях. В будущем NVIDIA и Palantir планируют масштабировать полученный опыт и предложить аналогичные суверенные стеки предприятиям из сферы машиностроения, энергетики, здравоохранения, автопрома и аэрокосмической отрасли.

Источник: www.unite.ai