Мой блог
Что важно знать перед покупкой ноутбука Nvidia RTX Spark для локального ИИ
Появление чипов DGX Spark в формате ноутбуков под названием Nvidia RTX Spark открывает новые возможности для работы с локальным искусственным интеллектом, объединяя большой объем унифицированной памяти и поддержка CUDA. Практические тесты такой системы на базе Lenovo Yoga 9n показывают, что характеристики и особенности поведения этих устройств при запуске тяжелых моделей имеют ряд скрытых нюансов, которые не очевидны из стандартных спецификаций.
При выборе подходящей конфигурации важно заранее учитывать ограничения памяти, специфику распределения ресурсов в приложении Nvidia, работу защитных механизмов Windows и состояние программного стека под архитектуру Arm64.
Влияние объема памяти и выбор конфигурации
Объем оперативной памяти в устройствах RTX Spark распаян на плате, поэтому изменить его после покупки невозможно. На рынке доступны чипы двух уровней: более доступная 18-ядерная версия с 5120 ядрами GPU поддерживает максимум 64 ГБ памяти, тогда как полноценный 20-ядерный вариант масштабируется до 128 ГБ.
Стоимость устройств различается в зависимости от производителя. Модели от разных брендов предлагают схожие конфигурации процессора и памяти, однако потолок в 64 ГБ на младших версиях накладывает жесткие ограничения на запуск крупных языковых моделей. Например, для весов модели уровня gpt-oss-120b требуется около 65 ГБ, в то время как максимальный объем видеопамяти, доступный в Windows при настройке сплита на 48 ГБ, составляет около 55,4 ГБ. Из-за этого приобретать устройство стоит с расчетом на модели, которые появятся через несколько лет.
Распределение памяти в приложении Nvidia
Панель управления Nvidia позволяет делить унифицированную память между центральным и графическим процессором. Однако выделенное для GPU значение не является эквивалентом классической видеопамяти. При тестировании с профилем Ollama и моделью Qwen3 32B переключение между резервом в 16 ГБ и 48 ГБ для графического чипа показало интересные результаты.
Срез производительности при разной разметке памяти демонстрирует следующие показатели:
- При сплите 16 ГБ под GPU используется 15.8 ГБ выделенной памяти и 12.9 ГБ системной общей памяти, скорость генерации составляет 11.8 токенов в секунду, а Windows задействует 26.0 ГБ из 46.8 ГБ.
- При сплите 48 ГБ под GPU задействовано 29.8 ГБ выделенной и 0.7 ГБ общей памяти, скорость возрастает до 12.1 токенов в секунду, но операционной системе остается всего 14.8 ГБ, из которых занято 86%.
Увеличение графического сплита дает минимальный прирост скорости примерно на 3% на повторных запусках, но существенно сокращает объем ресурсов, доступных самой Windows. По этой причине эксперты рекомендуют оставлять стандартный сплит в 16 ГБ, если модель корректно работает в таком режиме.
Ограничения Smart App Control
Чистая установка Windows 11 часто поставляется с активированной функцией Smart App Control. Эта система безопасности блокирует запуск любых приложений, которые не имеют цифровой подписи или не подтверждены облачным сервисом Microsoft. Данный механизм создает трудности при работе с инструментами для локального ИИ, многие из которых распространяются в виде архивов с GitHub.
Во время тестирования защитный механизм блокировал некоторые актуальные сборки Lemonade и бескомпиляционные релизы llama.cpp, в то время как Ollama запускалась без проблем. Отключить Smart App Control после его активации в параметрах безопасности Windows стандартным способом через возвратно-оценочный режим нельзя, поэтому этот параметр стоит настроить или отключить до развертывания рабочего окружения.
Состояние CUDA и поддержка программного стека
Поддержка CUDA для систем Windows на базе процессоров Arm появилась относительно недавно, начиная с версии 13.4, и на данный момент поставляется в статусе предварительной версии для устройств RTX Spark. Базовые задачи вроде запуска моделей через Ollama выполняются стабильно, однако проблемы могут возникнуть на более глубоких уровнях программного стека.
В период предварительного тестирования разработчики Nvidia предупреждали о возможных тайм-аутах GPU при выполнении некоторых задач разработки PyTorch, а среда vLLM нативной поддержки Windows не имеет вовсе. Хотя компания заявляет о совместимости 97% из топ-15000 пакетов Python, перед покупкой такого оборудования рекомендуется проверить каждый компонент своего рабочего инструментария на наличие сборок под архитектуру Arm64. Проверить статус приложений можно во вкладке «Детали» Диспетчера задач, добавив колонку «Архитектура».
Работа в среде Linux
Чипы GB10, лежащие в основе RTX Spark, полноценно поддерживают ОС DGX на базе Ubuntu в серверных решениях Nvidia, однако потребительские ноутбуки поставляются исключительно с Windows, а официальных драйверов Linux для них на момент подготовки материалов выпущено не было.
Энтузиастам удается запускать дистрибутивы вроде Arch Linux ARM на подобном железе, но для этого требуются перенос патчей ядра Ubuntu, кастомные таблицы ACPI, а также специализированные драйверы клавиатуры и звука. Более практичным и стабильным решением для пользователей Windows остается подсистема WSL2. Ubuntu в WSL2 корректно распознает графический процессор и видит заданный объем памяти, однако для полноценной работы требуется вручную скорректировать лимиты потребления оперативной памяти в файле конфигурации .wslconfig.
