Бабак Ходжат из Cognizant: архитектура агентных систем, эволюционные вычисления и будущее ИИ

архитектура агентных систем — Развитие технологий искусственного интеллекта смещается в сторону автономных сетей и сложных корпоративных платформ. В центре этого процесса находится концепция агентного предприятия, где ключевую роль играют не только базовые модели, но и общая архитектура взаимодействия.

Главный директор по искусственному интеллекту компании Cognizant Бабак Ходжат делится видением того, как создаются современные распределенные системы. В материале рассматриваются эволюция ИИ-агентов, роль архитектурных решений, подходы к безопасности и масштабированию сетей из сотен специализированных помощников.

Эволюция понятия ИИ-агента и роль языковых моделей

Путь развития интеллектуальных агентов охватывает десятилетия исследований: от ранних технологий естественного языка в проекте Dejima, повлиявших на создание Siri, до масштабных распределенных систем в компании Sentient. Сегодня базовые функции агентов, на программирование которых в девяностые годы уходили месяцы труда, доступны «из коробки» благодаря современным большим языковым моделям.

Появление LLM изменило стандарты индустрии. Когда специалисты говорят об агентах, подразумевается наличие языковой модели, которая управляет интерфейсом и логикой принятия решений. Тем не менее фундаментальное определение агента остается неизменным, меняются лишь доступные технологические возможности.

Архитектура корпоративных систем и ошибки при масштабировании

Многие компании совершают ошибку, полагая, что простое обновление базовой модели до более мощной версии решит все проблемы внедрения. Эксперт отмечает, что успех или провал корпоративных систем часто зависят от архитектуры, а не от характеристик конкретной модели.

Подобно тому, как вспомогательные элементы определяют эффективность специализированных инструментов для написания кода, архитектура многоагентной системы служит строительными лесами для всего предприятия. Без нее агенты остаются оторванными от реальных бизнес-процессов, корпоративных данных и рабочих сценариев. Структура взаимодействия должна отражать внутреннее устройство организации, включая регламенты, должностные инструкции и протоколы обмена информацией.

Обеспечение безопасности и готовность к продакшену

Пилотные проекты часто страдают от оторванности от реальной инфраструктуры. Для развертывания рабочей среды агентам необходим контролируемый доступ к внутренним базам данных и приложениям компании.

Необходимо четко определять:

• к каким именно данным и корпоративным системам разрешен доступ;
• какие самостоятельные решения агенты могут принимать без риска для безопасности;
• каким образом настраиваются защитные барьеры и механизмы надзора.

Важным этапом перед полномасштабным внедрением становится изолированное тестирование в песочницах. Средства контроля, аудит политик и проверка соответствия регламентам должны реализовываться централизованно, подобно межсетевым экранам в интернет-безопасности, в то время как отдельные прикладные агенты могут создаваться децентрализованным образом при условии обязательной регистрации в системе доверия.

Масштабирование сетей агентов и координация процессов

Опыт компании Cognizant, объединившей около 200 агентов внутри организации с численностью сотрудников порядка 350 тысяч человек, показал важность проектирования с учетом масштабируемости, расширяемости, эффективности затрат и скорости отклика. На таком уровне требуются механизмы, избыточные для небольших пилотных проектов.

Излишне жесткая централизация делает систему хрупкой, а полностью делегированная координация создает избыточные риски. Оптимальный подход заключается в распределенном взаимодействии, когда агенты могут динамически формировать команды в зависимости от складывающейся рабочей ситуации. Подобно тому как стандарты вроде MCP стали стандартом доступа к приложениям, в будущем должны утвердиться единые протоколы межагентной координации.

Эволюционные вычисления как дополнение к языковым моделям

Большая часть современного искусственного интеллекта строится на методах градиентного спуска, представляющих собой относительно прямолинейный поиск по принципу восхождения к вершине. В противовес этому эволюционные вычисления демонстрируют высокую эффективность при поиске в сложных пространствах и обладают большей вариативностью.

Исследовательские лаборатории показывают, что эволюционные стратегии превосходят классическое обучение с подкреплением на этапе посттренировки больших языковых моделей, обеспечивая сопоставимое или более высокое качество при значительно меньших затратах. Это открывает перспективы для непрерывного обучения моделей уже после их развертывания.

Эмергентное поведение и ограничения современных систем

По мере усложнения многоагентных сред взаимодействие автономных элементов может приводить к непредвиденным последствиям, включая возникновение конкурентных или даже стратегических шаблонов поведения. Даже при неизменности самих языковых моделей меняющееся окружение и цели порождают новые сценарии, что требует обязательного наблюдения за агентами в безопасных тестовых средах вроде открытой платформы TerraLingua.

Главным технологическим барьером на пути к долгосрочному управлению сложными задачами остаются ограничения самих LLM. Модели фиксируются после обучения и не способны пересматривать принятые решения при поступлении новых данных без постоянной подачи контекста. Дальнейшее развитие агентных систем потребует появления стандартизированных протоколов распределенной координации и надежных систем арбитража транзакций.