Тэг
CUDA
Как запустить Gemma на сервере: сравнение производительности Ollama и llama.cpp
Сравниваем производительность запуска большой языковой модели Gemma 4 на облачном сервере через Ollama и напрямую через llama.cpp.
Читать далее
Как устроена инфраструктура эмбеддингов Perplexity: разбор архитектуры Ivy, Tulip и ROSE
Разбор GPU-стека Perplexity для генерации эмбеддингов: архитектура сервисов Ivy, Tulip и ROSE, оптимизация CUDA-графов и асинхронный паттерн LazyTensor.
Читать далее
NVIDIA открывает двери для RISC-V: новые процессоры составят конкуренцию x86 и Arm в ИИ-системах
На конференции Hot Chips 2026 компания NVIDIA раскрыла технические требования к процессорам RISC-V для их полноценной интеграции в платформы CUDA и NVLink Fusion.
Читать далее
Старая видеокарта GTX: как использовать её с пользой
Не спешите списывать старую видеокарту NVIDIA GTX в утиль. Рассказываем, как превратить заслуженный графический чип в полезный инструмент для работы, игр и домашнего медиасервера.
Читать далее
CUDA Agent: новая система обучения нейросетей для генерации высокопроизводительных GPU-ядер
Разработчики из ByteDance и Университета Цинхуа представили систему агентного обучения, которая позволяет языковым моделям писать код для видеокарт эффективнее стандартных компиляторов.
Читать далее
