Microsoft внедряет агентов-охранников в Project Perception для защиты от внутренних угроз ИИ

Корпорация Microsoft объявила о запуске специализированных функций безопасности, направленных на борьбу с внутренними рисками, которые могут исходить от корпоративных систем искусственного интеллекта. Обновления затронули платформы Project Perception и пакет Microsoft 365 E7, в которых появились непрерывный мониторинг действий автономных помощников и адаптивные политики ограничения доступа.

Как отмечается в материале, современные автономные алгоритмы берут на себя все большую часть рутинных задач, задействуя корпоративные данные, внешние инструменты и сторонние приложения. Привилегии, повышающие полезность таких систем, одновременно формируют потенциальные уязвимости. Программные модули могут допускать ошибки, подвергаться внешним манипуляциям или работать автономно на высокой скорости. Изначально платформа Project Perception создавалась для отражения внешних атак, однако теперь ее механизмы задействованы для контроля процессов, протекающих внутри ИТ-периметра компаний.

Обнаружение, идентификация и изоляция

Компания расширила процедуру обнаружения программных компонентов, добавив поддержку 35 дополнительных разновидностей локальных систем. Общее число распознаваемых локальных помощников достигло 60 позиций, включая такие решения, как GitHub Copilot, Claude Code и OpenAI Codex. Организации могут объединять их в едином реестре независимо от способов первоначального развертывания.

Система Microsoft Entra Agent ID получила новые типы идентификаторов, охватывающие локальные и ранее не зарегистрированные конфигурации. Это позволяет применять к ним правила безопасности даже в том случае, если изначально они не были интегрированы со средствами защиты корпорации. Уникальный идентификатор закрепляет за программным агентом права, владельца, жизненный цикл и уровень риска, отделяя действия пользователя от операций, выполненных ИИ по его поручению.

В качестве изолирующей среды используется инфраструктура Microsoft Execution Container (MXC). Она предоставляет системам доступ строго к тем ресурсам, которые необходимы для выполнения текущей задачи, создавая изолированную границу контроля. Дополнительно задействованы динамические разрешения, запускающие алгоритмы без предварительных полномочий с последующим выделением временных и ограниченных прав. Более критические операции требуют подтверждения со стороны оператора-человека.

Динамический риск и агенты-охранники

Индикатор Dynamic Agent Risk анализирует сигналы о работе программного обеспечения в сочетании с данными об учетных записях, облачных службах, конечных точках и сетевой активности. Учитываются конфигурация системы, потенциальный масштаб ущерба от сбоя и возможные отклонения от заданных пользователем сценариев. На основе этих метрик формируется актуальная оценка текущей угрозы.

Функция Dynamic Conditional Access расширяет возможности условного доступа, позволяя реагировать на изменение уровня риска при помощи скоординированных мер на нескольких уровнях. Ответные действия могут включать сохранение режима чтения при блокировке записи, сужение доступного пула данных, ограничение сетевых соединений или запросы верификации для критических шагов. В сценариях с наивысшей степенью опасности выполнение процессов может быть полностью остановлено.

Для реализации защитных мер вводятся специальные сценарии автоматизации (Playbooks) и команда агентов-охранников (Guardian Agents). Люди задают границы политик и правила делегирования, сценарии определяют требуемый результат безопасности, а защитные алгоритмы выполняют необходимые действия на высокой скорости. Дополнительный анализ уровня модели позволяет выявлять отклонения в намерениях и отслеживать влияние неавторизованной информации на логику принятия решений.

Контекст Microsoft 365 E7 и инфраструктура Agent 365

Представленные функции безопасности входят в состав экосистемы Microsoft 365 E7 и архитектуры Project Perception. Комплекс Microsoft 365 E7 включает в себя Microsoft 365 Copilot, средство контроля Agent 365, пакет Entra Suite, а также расширенные возможности защиты Defender, Intune и Purview. Контрольная панель Agent 365 предназначена для мониторинга, управления и защиты интеллектуальных помощников в масштабах всей организации.