Мой блог
Тестирование процессора Nvidia Vera: производительность в задачах агентского ИИ и сравнение с x86-флагманами
Развитие инфраструктуры для искусственного интеллекта переходит на этап агентских рабочих процессов, что предъявляет специфические требования к серверным мощностям. В этом контексте представленный автономный серверный процессор Nvidia Vera становится важным элементом экосистемы компании, ориентированным на высокую пропускную способность памяти и эффективную работу с кодом Python. В отличие от предыдущих решений, новинка нацелена не только на поддержку графических ускорителей, но и на самостоятельное выполнение сложных задач в современных дата-центрах.
Результаты испытаний показывают, что архитектура Vera демонстрирует конкурентоспособность в широком спектре серверных нагрузок. Несмотря на доминирование архитектур x86 от AMD и Intel в традиционных вычислениях, решение от Nvidia находит свою нишу в операциях, критичных к задержкам обмена данными и интенсивной работе с базами данных. Материал первоисточника раскрывает возможности чипа в сравнении с актуальными процессорами серий AMD Turin и Intel Granite Rapids-AP.
Архитектура Olympus и технические характеристики
Процессор Vera базируется на кастомном ядре Olympus, которое пришло на смену стандартным решениям Arm, использовавшимся в чипах предыдущего поколения Grace. В основе лежит архитектура Armv9.2-A. Чип содержит 88 физических ядер и поддерживает 176 потоков благодаря технологии пространственной многопоточности (spatial multithreading). Каждое ядро оснащено 2 МБ кэша второго уровня (L2), а общий объем кэш-памяти L3 составляет 164 МБ.
Одной из ключевых особенностей является использование масштабируемой когерентной шины второго поколения (Scalable Coherency Fabric, SCF). Эта распределенная меш-сеть обеспечивает пропускную способность внутри кристалла до 3,4 ТБ/с, связывая ядра и кэш-память. Энергопотребление процессора варьируется в диапазоне от 250 до 450 Вт в зависимости от конфигурации системы.
Подсистема памяти SOCAMM2
В материале отмечается, что Nvidia применила заменяемые модули памяти SOCAMM2 стандарта LPDDR5X с эффективной частотой 9600 МТ/с. Это позволяет достичь совокупной пропускной способности памяти до 1,2 ТБ/с на один процессор, что составляет около 14 ГБ/с на каждое ядро. Такие показатели значительно превосходят возможности современных систем на базе DDR5-6000 и даже решений с использованием MRDIMM.
Функции CPU в агентском искусственном интеллекте
В современных ИИ-системах центральный процессор выполняет роль не просто планировщика для запросов к GPU. Исследование, проведенное Техасским университетом в Остине совместно с Microsoft Azure, выделяет три ключевые задачи CPU: оркестрация состояний агентов, обеспечение коммуникации и выполнение логики инструментов, чаще всего написанной на языке Python.
Агентские нагрузки характеризуются «взрывным» характером потребления ресурсов. Агент может активно работать в течение короткого времени, выполняя запросы к базе данных или компилируя код, а затем переходить в режим ожидания. При масштабировании до тысяч одновременных вызовов даже незначительные задержки в работе CPU могут привести к простоям дорогостоящих графических ускорителей. Тестирование показывает, что архитектура Vera оптимизирована именно под такие сценарии с высокой степенью параллелизма.
Производительность в тестах SPEC CPU 2026
При оценке целочисленных операций (intrate) в пакете SPEC CPU 2026 процессор Nvidia Vera показал результат, сопоставимый с 128-ядерным AMD EPYC 9755, несмотря на меньшее количество ядер. В пересчете на одно ядро решение Nvidia опережает конкурентов. Даже при использовании оптимизированных библиотек Intel oneAPI, чип Intel Xeon 6980P уступает Vera по удельной производительности на ядро более чем на 8%.
В тестах с плавающей запятой (fp) Vera демонстрирует сильные стороны за счет высокой пропускной способности памяти. В таких подтестах, как ROMS, Marian и LBM, ориентированных на интенсивный обмен данными, процессор от Nvidia занимает лидирующие позиции. Однако в специфических задачах, таких как FemFlow или CACTUS, преимущество остается за архитектурой x86.
Python как основа агентских систем
Поскольку фреймворки вроде LangGraph или AutoGen базируются на Python, скорость исполнения этого интерпретируемого языка критична для ИИ-агентов. В тестах PyBench Vera лидирует, опережая флагманские модели AMD и Intel. Это преимущество сохраняется и в более детальном наборе тестов PyPerformance, охватывающем время запуска интерпретатора, обработку регулярных выражений и работу веб-серверов.
В задачах генерации текста через Llama.cpp (с использованием CPU-бэкенда) процессоры Intel Xeon 6980P сохраняют лидерство в скорости обработки промптов. Это объясняется наличием специализированных инструкций для ИИ в архитектуре Intel. Тем не менее, Vera показывает стабильные результаты в токенизации и последующей обработке текстовых данных.
Работа с данными: память, сжатие и базы данных
Бенчмарк STREAM подтверждает заявленные характеристики: Vera обеспечивает недосягаемый для текущих x86-платформ уровень пропускной способности памяти. При оптимизации политики распределения процессов OpenMP результат Nvidia Vera увеличивается многократно, в то время как у конкурентов наблюдается стагнация или небольшой регресс. Ожидается, что разрыв сократится только с выходом следующих поколений процессоров AMD Venice и Intel Diamond Rapids.
Сжатие и архивация
В операциях сжатия алгоритмом Zstd на уровнях 3 и 19 процессор Nvidia лидирует. Однако при декомпрессии данных пальма первенства переходит к чипам AMD Turin. Аналогичная ситуация наблюдается в 7-Zip: архитектура Zen традиционно показывает лучшие результаты в этом архиваторе, оставляя Vera позади систем с высокой плотностью ядер x86.
Базы данных и JSON
В тестах SQLite при максимальном количестве потоков Vera уступает только односокетным конфигурациям Intel, но выходит вперед в сценариях с фиксированным числом потоков (64 и 128). В ClickHouse наблюдается интересная особенность: при «холодном» кэше Vera на 40% быстрее конкурентов при первом запуске, сохраняя паритет с двухпроцессорными системами AMD EPYC 9755 при последующих операциях. В парсинге JSON через библиотеку simdjson лидируют процессоры AMD благодаря нативной поддержке инструкций AVX-512.
Сценарии компиляции и рендеринга
Для разработчиков ПО и агентских систем, выполняющих сборку кода «на лету», важна скорость компиляции. Vera на 12% быстрее систем на базе AMD 9755 при использовании компилятора GCC. Однако в LLVM ситуация меняется на противоположную: здесь чип Nvidia оказывается в хвосте группы. Также отмечаются высокие результаты в компиляции PHP и ImageMagick.
В задачах визуализации и кодирования видео Vera показывает смешанные результаты:
- В кодировании x265 процессор Nvidia обходит конкурентов;
- В AV1 преимущество остается за ядрами Zen 5;
- В рендеринге C-Ray и POV-Ray архитектура Nvidia превосходит системы с 768 потоками (AMD EPYC 9965);
- В научном рендеринге OSPRay отсутствие поддержки 512-битных векторов приводит к трехкратному отставанию от x86-флагманов в определенных режимах.
Перспективы на серверном рынке
Выход Vera знаменует переход Nvidia к агрессивному продвижению собственных CPU как самостоятельных продуктов для ЦОД. Хотя один SKU не может закрыть все потребности рынка, текущие тесты подтверждают жизнеспособность кастомных ядер Olympus в задачах, выходящих за рамки простого обслуживания ускорителей. Основная конкуренция в ближайшие годы развернется между специализированными Arm-решениями и готовящимися к выходу архитектурами Zen 6 и Intel Diamond Rapids, которые также обещают значительное увеличение пропускной способности памяти.
