Google Cloud запустил инстансы A5X на архитектуре NVIDIA Vera Rubin

Компании NVIDIA и Google Cloud в рамках конференции GTC Berlin объявили о начале работы первых вычислительных инстансов A5X. В основе новой аппаратной конфигурации лежат стоечные комплексы NVIDIA Vera Rubin NVL72, которые уже переданы первому корпоративному заказчику, а общедоступный запуск намечен на ноябрь с последующим масштабированием в европейском регионе.

Платформа ориентирована на масштабные агентные модели и распределенное обучение с подкреплением. Инфраструктурное решение объединяет стойки NVIDIA Vera Rubin NVL72, сетевые контроллеры ConnectX-9 SuperNIC, оптическую сеть Google Cloud Virgo и фирменную систему жидкостного охлаждения четвертого поколения в рамках единого стека AI Hypercomputer.

Инстансы A5X и планы масштабирования кластеров

Новая линейка A5X разрабатывалась для ресурсоемких задач агентного инференса, где требуется быстрая обработка контекста и непрерывная генерация токенов. Концепция Google Cloud AI Hypercomputer объединяет вычисления, межсоединения и дисковую подсистему в целостный вычислительный узел, рассчитанный на непрерывное обучение систем на основе опыта.

Согласно планам Google Cloud, инфраструктура на базе компонентов Vera Rubin со временем может быть расширена до 960 000 графических процессоров Rubin в рамках распределенных дата-центров. Впервые конфигурация A5X была анонсирована весной на конференции Google Cloud Next. На тот момент заявлялось, что переход на архитектуру Rubin позволит снизить стоимость инференса в пересчете на один токен до десяти раз по сравнению с предыдущими решениями, параллельно увеличив пропускную способность на каждый мегаватт мощности также в десять раз.

Архитектурные лимиты предполагают возможность сборки локальных кластеров до 80 000 чипов Rubin на одной площадке и до 960 000 процессоров при межсайтовом объединении. Аппаратной основой A5X стала платформа Rubin, представленная NVIDIA в начале января. Один комплекс Vera Rubin NVL72 содержит 72 графических процессора Rubin, 36 центральных процессоров Vera, высокоскоростные шины NVLink 6, сетевые адаптеры ConnectX-9 SuperNIC и процессоры обработки данных BlueField-4 DPU.

Первые клиенты и практические сценарии на A5X

Первым внешним пользователем инстансов A5X стала лондонская компания Ineffable Intelligence, основанная создателем алгоритма AlphaGo Дэвидом Сильвером. Стартап применяет мощности стойки для масштабного обучения с подкреплением и создания самообучающихся систем класса «superlearner», способных непрерывно аккумулировать опыт во время взаимодействия со средой.

Подобный подход к обучению строится на бесконечном цикле формирования опыта, анализа результатов и регулярного обновления весов моделей, что предъявляет экстремальные требования к полосе пропускания между компонентами. Дэвид Сильвер отметил, что высокая производительность и пропускная способность между процессорами Vera и графическими чипами Rubin, а также внутристоечное соединение позволяют значительно расширить масштабы исследовательских задач.

Другим практическим примером использования A5X стала демонстрация креативной агентной архитектуры международным рекламным холдингом WPP. Для организации работы применялись модели семейства NVIDIA Nemotron и защищенная среда исполнения NVIDIA OpenShell, входящая в состав соответствующей эталонной архитектуры безопасных агентов.

Решение WPP трансформирует текстовые запросы в поэтапные цепочки творческих задач: генерацию видеоконтента, повышение разрешения и стилизацию материалов, сохраняя этап согласования человеком перед непосредственным рендерингом. Программный слой OpenShell изолирует выполнение агентов в контролируемых песочницах, защищая конфиденциальные данные брендов и доступ к внутренним инструментам. В ходе тестов инженеры WPP смогли запустить на одном инстансе A5X рабочие нагрузки, которые ранее требовали кластера из нескольких серверов.

Конфиденциальные вычисления и оптимизация энергопотребления

В рамках анонса Google Cloud также подтвердил статус одного из первых провайдеров, развертывающих стек NVIDIA Confidential Computing на стоечном уровне для выделенных физических серверов (bare-metal). Защищенные функции внедряются на инстансах A4X Max, базирующихся на комплексах NVIDIA GB300 NVL72.

Конфигурация Confidential Bare Metal предлагает неизолированные виртуализацией вычисления без потери производительности в сочетании с криптографической защитой данных обучения и интеллектуальной собственности моделей. Эта опция дополнила существующие варианты Confidential Containers и Confidential Virtual Machines. NVIDIA добавила аппаратные механизмы контроля, защищающие трафик при передаче, проверяющие целостность платформы и блокирующие несанкционированный доступ на уровне кремния.

Руководитель направления безопасности ИИ-инфраструктуры Google Cloud Андрес Лагар-Кавилла подчеркнул, что инстансы A4X с технологией Confidential Computing гарантируют сохранение приватности пользовательских данных и защиту авторских прав на модели без просадки в скорости обслуживания запросов.

Параллельно Google Cloud переводит в статус общей доступности конфиденциальные вычисления на виртуальных машинах G4 с ускорителями NVIDIA RTX PRO 6000 Blackwell Server Edition. Они предназначены для защищенного инференса и дообучения моделей. По данным NVIDIA, эти инстансы уже внедряются такими компаниями, как Vertebrae, Polaris Cloud и Confidential Core AI, для обеспечения приватности диалоговых интерфейсов, верифицируемой работы агентов и корпоративных аналитических задач с жесткими политиками доступа.

Кроме того, партнеры исследуют возможности технологии NVIDIA DSX MaxLPS применительно к оборудованию Vera Rubin. Основной целью интеграции является повышение показателя производительности на ватт и расширение вычислительного пула в рамках установленных энергетических лимитов центров обработки данных.