Эксперимент по кибербезопасности: запуск ИИ-агентов для взлома аккаунтов

Недавний масштабный эксперимент показал, на что способны автономные ИИ-агенты, получившие задачу взломать онлайн-аккаунты конкретного пользователя. В ходе проверки эксперимент по кибербезопасности охватил около сотни искусственных интеллектуальных агентов, развёрнутых на собственной инфраструктуре с использованием свободных моделей после процедуры аблитерации.

За несколько часов работы боты смогли реализовать несколько успешных векторов атак, включая эксплуатацию уязвимостей в ПО, перебор паролей и применение методов социальной инженерии, продемонстрировав растущий потенциал автоматизированных угроз.

Методология и особенности эксперимента

Обычные коммерческие языковые модели защищены встроенными механизмами модерации и принципиально отказываются выполнять запросы на взлом. Чтобы обойти эти ограничения, организаторы эксперимента применили метод аблитерации. Данный подход заключается в сравнении внутренних активаций модели на безобидные и вредоносные вопросы с целью выделения вектора отказа. После вычитания этого вектора из весов модели она теряет способность отказываться от выполнения деструктивных запросов, сохраняя при этом общие интеллектуальные возможности.

Настройка инфраструктуры и запуск агентов

Для тестирования были отобраны три открытые модели на базе GLM-5.3 и DeepSeek V4 Flash, размещенные на платформе Hugging Face и развернутые на облачных графических процессорах. Каждому из ста агентов в изолированных Docker-контейнерах через Codex CLI ставилась базовая задача: исследовать информацию о цели и получить доступ к одному из ее аккаунтов, используя любые методы, включая агрессивные и незаконные подходы.

Результаты атак на программное обеспечение и сервисы

Хотя агентам не удалось обнаружить уязвимости нулевого дня в актуальном стороннем ПО или скомпрометировать критически важные учетные записи нулевого уровня, они смогли трижды выполнить поставленную задачу. Успех пришелся на эксплуатацию уязвимостей в старых тестовых проектах и демонстрационных разработках.

Типы обнаруженных уязвимостей

Проанализировав поддомены и открытые проекты цели, агенты выявили уязвимости вроде IDOR (небезопасных прямых ссылок на объекты) и ошибки управления учетными данными. Примечательно, что поиск производился без предварительного предоставления исходного кода или подсказок — ИИ самостоятельно провел полноценный разведывательный пентест.

Пароли, сбор данных и OSINT

Часть агентов сосредоточилась на поиске утерянных или скомпрометированных данных с помощью методов OSINT и открытых баз утечек. Сформировав списки возможных паролей и проверив их на различных ресурсах, боты смогли получить доступ к старым учетным записям.

Помимо учетных данных, агенты эффективно собирали конфиденциальную информацию о личной жизни, используя специализированные сервисы поиска людей и социальные сети. Они перепроверяли полученные сведения через несколько независимых источников, добиваясь высокой точности информации.

Атаки с использованием социальной инженерии

Эксперимент включал попытки обмана пользователя через социальную инженерию. Агенты рассылали сообщения, пытались организовывать встречи и оставляли комментарии на публичных ресурсах со ссылками на созданные ими фишинговые страницы. Несмотря на то, что генерируемый текст выглядел подозрительно, а для хостинга использовались бесплатные статические платформы, некоторые сообщения отправлялись с отложенной задержкой по времени для маскировки.

Оценка затрат и экономическая эффективность

Финансовая сторона организации подобных атак оценивалась по часам работы GPU. Запуск трех крупных моделей на конфигурациях с двумя видеокартами в течение пяти часов потребовал существенных вложений. Учитывая количество успешных взломов, стоимость одной результативной атаки составила около сорока долларов. Однако по прогнозам экспертов, благодаря удешевлению инференса и развитию компактных моделей аналогичные атаки в будущем станут значительно дешевле.

Основные выводы и защитные меры

Полученные результаты подчеркивают, что автономные агенты уже способны автоматизировать рутинные этапы кибератак, снижая порог входа для злоумышленников. Для противодействия подобным угрозам специалисты предлагают развивать защитные инструменты на базе искусственного интеллекта для команд безопасности, а также ввести регулирование провайдеров инференса с обязательным применением механизмов модерации для предотвращения бесконтрольного использования аблитерированных моделей.