Meta возвращается к истокам: Muse Glimmer бросает вызов лидерству китайских нейросетей

Корпорация Meta вновь делает ставку на сегмент ИИ-моделей с открытыми весами — направление, которое она сама когда-то инициировала, но позже фактически забросила из-за смены приоритетов. Возвращение получилось громким: компания представила Muse Glimmer, модель, использующую ряд инновационных подходов для достижения высокой производительности на обычном потребительском оборудовании. Инженеры Meta применили продвинутые методы дистилляции знаний, чтобы уложиться в лимиты памяти стандартных видеокарт, и внедрили уникальный алгоритм для ускорения генерации текста.

Технологический прорыв: как работает Muse Glimmer

Muse Glimmer представляет собой модель с 30 миллиардами параметров, призванную составить конкуренцию таким решениям, как Google Gemma 4 и Alibaba Qwen 3.6. Веса в архитектуре нейросети определяют значимость различных концепций и формируют всю базу знаний модели. Особенность разработки Meta заключается в двух ключевых аспектах. Первый — это оптимизация памяти: запуск 30-миллиардной модели в полной точности (fp16) традиционно требует около 60 ГБ видеопамяти. Однако специалисты Meta использовали квантование и дистилляцию, при которой более мощная модель (Muse Spark) «обучает» компактную версию, передавая ей ключевые навыки. В результате требования к памяти удалось снизить до 20 ГБ. С учетом 2–4 ГБ, необходимых для кэша KV, модель может комфортно функционировать на потребительских графических процессорах с 24 ГБ или 32 ГБ памяти. По заявлениям разработчиков, подобное сжатие практически не сказывается на качестве работы.

Второй аспект — это скорость генерации токенов. Для этого Muse Glimmer задействует крошечную вспомогательную модель DFlash. Она «набрасывает» целые фрагменты текста, после чего основная модель проверяет их за один проход, сохраняя верные части и отсеивая ошибки. Поскольку проверка готового блока выполняется значительно быстрее, чем посимвольная генерация, это позволяет достичь внушительного прироста производительности: по данным Meta, скорость ответов на RTX 5090 возрастает в 3,1 раза, на M5 Max — в 1,8 раза, а на M4 Max — в 1,5 раза.

Геополитическая конкуренция на рынке ИИ

Запуск Muse Glimmer произошел в критически важный момент для западной экосистемы моделей с открытыми весами. Согласно статистике OpenRouter, китайские LLM недавно преодолели отметку в 34,25 триллиона токенов в неделю, причем модель DeepSeek V4 Flash показала невероятный рост в 570% за неделю. Данные за период, начавшийся 3 августа, свидетельствуют, что глобальный объем использования ИИ достиг 69 триллионов токенов, увеличившись на 21,48% за семь дней. Доля китайских моделей составила 34,25 триллиона токенов, в то время как вклад американских разработок остановился на отметке в 9,17 триллиона. Важно отметить, что это была уже пятнадцатая неделя подряд, когда модели из Китая удерживают мировое лидерство по объему генерации.

В связи с этим аналитики будут пристально следить за показателями следующей недели, чтобы понять, способна ли Muse Glimmer от Meta существенно повлиять на стремительное доминирование китайских нейросетей с открытыми весами и изменить текущий баланс сил в глобальной ИИ-индустрии.

Источник: wccftech.com