Тэг
Ollama
Как создать локальный RAG на Python: разбор за семь занятий
Подробный практический разбор курса по созданию локальной поисковой системы RAG на Python с использованием моделей через Ollama и интерфейса на Streamlit.
Читать далее
Локальный ИИ без иллюзий: запуск моделей на своем ПК и свежие релизы
Разбираем нюансы запуска локального ИИ, новые десктопные инструменты для KDE Plasma, методы дистилляции моделей и полезную команду для резервного копирования агента Hermes.
Читать далее
Как запустить Gemma на сервере: сравнение производительности Ollama и llama.cpp
Сравниваем производительность запуска большой языковой модели Gemma 4 на облачном сервере через Ollama и напрямую через llama.cpp.
Читать далее
Локальный ИИ и экономика токенов: свежий выпуск обзора индустрии
Разбираем экономику токенов, новые локальные ИИ-инструменты, почту для агентов, кэширование промптов и практику работы с Ollama.
Читать далее
Автоматическое переименование и сортировка скриншотов с помощью локальной ИИ: мой опыт настройки Ollama и Qwen2.5-VL
Как настроить автоматическое переименование и сортировку скриншотов в macOS с помощью Ollama, Qwen2.5-VL, Python и LaunchAgent. Полный разбор локального ИИ-пайплайна.
Читать далее
Домашний сервер для LLM на NVIDIA Tesla V100 SXM2: собираем мощный ИИ-узел по цене игрового GPU
Разбираемся, как собрать бюджетный домашний сервер для нейросетей на видеокартах NVIDIA Tesla V100 SXM2. Смета, нюансы охлаждения, СЖО и тесты скорости LLM Qwen3.8.
Читать далееAI-Disrupt PDLC на практике: где нейросети реально ускоряют разработку, а где создают иллюзию
Практический разбор применения ИИ-инструментов в полном цикле разработки (PDLC). Разбираем, где нейросети реально экономят время, а где создают иллюзию производительности и проблемы с защитой кода.
Читать далееЛокальный ИИ-ассистент для созвонов, часть 4: что происходит после кнопки «Стоп» и как работает ревизия
Разбор фоновых процессов локального ИИ-ассистента после нажатия кнопки «Стоп»: как облачная ревизия исправляет ошибки локальной LLM, отменяет ложные задачи и перештамповывает спикеров.
Читать далееЛокальный ИИ-ассистент для созвонов: как построить надежную память на графе знаний в Obsidian
Подробный разбор архитектуры локального ИИ-ассистента: как хранить историю встреч в Obsidian без графовых баз данных, бороться с галлюцинациями моделей, настраивать гибридный поиск и соблюдать гигиену памяти.
Читать далее
NVIDIA представила Personal AI Router (PAIR): открытый маршрутизатор для локального запуска ИИ на нескольких компьютерах
NVIDIA представила Personal AI Router (PAIR) — открытый виртуальный маршрутизатор для распределения локальных запросов нейросетей между несколькими компьютерами в сети.
Читать далее
