Мой блог
Рынок локального ИИ: ситуация с ценами на RAM, новые инструменты и ИИ-агенты
Обзор актуальных тенденций в сфере локального искусственного интеллекта охватывает финансовое состояние рынка чипов, где ситуация с ценами на RAM остается напряженной, а также знакомит с новыми утилитами, языковыми моделями и инструментами для работы на собственных компьютерах.
По данным агентства Reuters, китайский рынок ИИ-акций и полупроводников потерял около 480 миллиардов долларов на фоне падения индекса STAR 50 на 40% менее чем за четыре месяца. Разработчики графических процессоров MetaX и Moore Threads зафиксировали снижение своей стоимости примерно наполовину с июля. На этом фоне Amazon перевела большую часть моделей Nova в режим базового поддержания работоспособности, направив финансирование на одну передовую модель.
Финансовые показатели производителей железа и перспективы памяти
Производитель памяти SK Hynix отчитался о рекордной квартальной прибыли в размере 29,7 миллиарда долларов, продемонстрировав операционную прибыль 83,3 триллиона южнокорейских вон при выручке 104,6 триллиона вон, что соответствует маржинальности в 80%. Руководство компании прогнозирует сохранение дефицита памяти вплоть до 2030 года, поскольку крупные контракты уже закрывают более половины запланированного объема выпуска на 2027 и 2028 годы. Обычным потребителям достаются лишь остатки ресурсов, поэтому быстрого снижения стоимости оперативной памяти ждать не стоит.
Обзор новых инструментов и ИИ-приложений
Индустрия продолжает пополняться программным обеспечением для локального применения. Утилита LokalBot записывает и расшифровывает собрания непосредственно на ПК с помощью локальных моделей через llama.cpp на базе Vulkan или центрального процессора, исключая необходимость подключения посторонних ботов к видеоконференциям. Аналогичную задачу выполняет OpenNoteTaker прямо в браузере. Инструмент Whisper функционирует через WebAssembly без отправки аудио на удаленные сервера, хотя расширенные функции вроде генерации итогов встречи и перевода требуют подключения к серверу разработчика и доступны только в браузерах Chrome и Edge.
Обновления специализированного софта
Выпущен релиз субтитровщика Subtitld 26.10, представляющий собой крупное обновление редактора с открытым исходным кодом. Программа позволяет пройти путь от исходного видеоряда до синхронизированных, переведенных и озвученных субтитров в едином интерфейсе. Для распознавания речи используются модули whisper.cpp или Vosk, а для генерации голосов — синтезаторы Piper, Kokoro и другие, многие из которых работают полностью в автономном режиме.
Развитие ИИ-агентов и платформ разработки
Грегори Куртцер, известный созданием CentOS и Rocky Linux, разработал ядро Ginux на языке Rust за 11 дней при помощи агента Codex, написавшего около 139 000 строк кода, пока автор проектировал архитектуру и проверял результаты. Буква «G» в названии указывает на GPT, а сам проект рассматривается как исследовательский прототип. Бывший руководитель GitHub Томас Домке представил платформу Entire — систему контроля версий Git для совместной работы людей и ИИ-агентов, где запросы на слияние преобразуются в цепочки Trails с оценочными баллами, обновляемыми при каждом коммите.
Новости открытых моделей
Проект Block Джека Дорси продемонстрировал голосовую модель Dessa, способную одновременно слушать пользователя и разговаривать. Система обучалась исключительно на человеческой речи в отличие от большинства аналогов, обрабатывающих текстовые массивы. Разработчики заявляют, что модель способна работать на MacBook Pro с процессором M4 Max или более производительным, однако информация о лицензии и весах пока не раскрывается. Выход Mistral Large 4 был запланирован на конец октября.
Справочные материалы и практические советы
В технологической среде часто используется термин «открытые веса» (open weights), означающий публичную доступность обученного файла модели, который можно загрузить и запустить на собственных вычислительных мощностях. Это не делает модель автоматически открытым исходным кодом, так как тренировочные данные и код зачастую остаются закрытыми, а возможности использования регулируются лицензией. Тем не менее, локальное хранение весов гарантирует, что ни одна компания не сможет отозвать доступ к файлам.
Резервное копирование локальных моделей
Для пользователей, применяющих инструмент Ollama для локального запуска нейросетей, рекомендуется создавать резервные копии рабочей среды. Команда ollama list позволяет просмотреть актуальный список моделей и их идентификаторов. Сами файлы обычно располагаются в директории ~/.ollama/models для пользовательской установки или в каталоге /usr/share/ollama/.ollama/models, если приложение функционирует в качестве системной службы. Перенос этих папок на внешний накопитель позволяет обезопасить загруженные файлы.
