Мой блог
Как создать бесплатный ИИ-помощник для сайта на базе Cloudflare
Создание специализированного интерактивного консультанта для корпоративного ресурса позволяет автоматизировать обработку типичных обращений посетителей. В данном материале рассматривается практический опыт реализации бесплатного ИИ-ассистента на базе инфраструктуры Cloudflare, который умеет отвечать на вопросы по опубликованным материалам, учитывать контекст уточнений и корректно отклонять посторонние запросы.
Подобный проект ориентирован на небольшие сайты, где пользователи ищут информацию об услугах, действующих проектах и условиях работы. Использование готовых облачных инструментов и разделение задач между моделями помогает уложиться в лимиты бесплатных квот.
Архитектура и размещение на платформе
Для развертывания консультанта требуется среда для хранения статических страниц, выполнения серверного кода и запуска нейросетевых моделей. В качестве рабочей площадки используется облачная платформа Cloudflare, предоставляющая необходимый набор бесплатных компонентов.
Обработка входящих запросов возложена на серверные функции Workers, которые принимают сообщения из браузера, обращаются к языковой модели и возвращают готовый ответ. Журнал обращений и счетчики расхода фиксируются в базе данных D1, а за генерацию текста отвечает сервис Workers AI. Такой подход избавляет разработчиков от необходимости арендовать выделенные серверы с мощными графическими ускорителями.
Этап 1. Подготовка базы знаний
На первом этапе формируется массив исходных данных о деятельности компании: перечень услуг, публичные кейсы, порядок работы и актуальные цены. В описанном эксперименте было подготовлено 14 документов в формате Markdown общей длиной около 13 тысяч символов.
Организация контекста и поиск
При небольшом объеме базы тексты передаются языковой модели целиком вместе с каждым вопросом посетителя. Это позволяет реализовать простую схему RAG без сложной настройки векторных баз данных. По мере роста объема документации применяется предварительное разделение материалов на фрагменты и создание эмбеддингов с помощью модели bge-m3 для точечного поиска релевантных отрывков.
Этап 2. Выбор текстовой модели
Тестирование доступных в каталоге Workers AI решений показало, что разные модели по-разному справляются с интерпретацией фактов. Некоторые варианты склонны додумывать детали или присваивать проектам несуществующие статусы. Для генерации коротких ответов была выбрана модель GLM-4.7-Flash с деактивированными механизмами рассуждений, что позволило получать содержательный текст без лишнего расхода токенов.
Этап 3. Интеграция с интерфейсом чата
Связывание модели с пользовательским интерфейсом реализуется через скрипт обработки сообщений. Системная инструкция для ассистента строится на жестких правилах: использовать только проверенные факты из базы знаний, сохранять исходные статусы проектов, не выдумывать цены и передавать управление оператору при отсутствии информации.
Этап 4. Защита границ и двухэтапная проверка тем
Обычные языковые инструкции не всегда способны предотвратить попытки обхода ограничений или генерацию стороннего контента вроде программного кода. Для решения этой проблемы внедрена двухэтапная схема обработки запросов. Перед обращением к основной модели сообщение пользователя анализирует отдельный классификатор на базе Gemma, который определяет допустимость темы и возвращает метку разрешения.
Как работает фильтрация запросов
Проверяющая модель получает в формате JSON историю переписки и последний вопрос посетителя. Задача классификатора заключается в строгом отделении профильных вопросов о компании от посторонних тем, включая запросы на написание кода, решение задач или обсуждение отвлеченных тем.
Этап 5. Контроль расхода квот
Поскольку бесплатные лимиты Cloudflare ограничены, в системе предусмотрены лимиты на суточное количество запросов и ограничения по частоте обращений с одного IP-адреса. Перед вызовом нейросети проверяется текущий бюджет нейронов, а история сообщений на стороне клиента защищается от подделок.
Этап 6. Интерфейсные улучшения
Для удобства пользователей в чат добавлены стартовые подсказки, сохранение истории диалога в браузере и автоматические ссылки на релевантные разделы сайта. При необходимости пользователь может очистить историю или передать всю накопленную переписку через форму обратной связи.
