Цифровой камуфляж против алгоритмов слежения

Проект noRecognition, запущенный экспертом по кибербезопасности Биллом Свирингеном, ставит перед собой амбициозную цель: проверить, способны ли сгенерированные искусственным интеллектом визуальные узоры нарушить работу систем распознавания, используемых в современных камерах видеонаблюдения. Первая публичная демонстрация возможностей этой технологии состоялась в рамках конференции по кибербезопасности Def Con в Лас-Вегасе. В ходе эксперимента, организованного совместно с медиа-группой Donut Media, автомобиль Toyota Yaris 2009 года выпуска был оклеен специальной пленкой с «неузнаваемым» паттерном, после чего проехал мимо камеры Flock. По словам Свирингена, основателя компании SIXCYBER, испытание прошло успешно, а видеозапись процесса будет опубликована в ближайшее время.

Суть технологии заключается не в блокировке записи как таковой, а в дезориентации программного обеспечения, которое анализирует видеопоток. Камера продолжает фиксировать изображение, однако алгоритмы, ответственные за детектирование объектов, не могут распознать в объекте транспортное средство или человека. Таким образом, noRecognition предлагает способ добровольного отказа от автоматизированного отслеживания в общественных местах. Свиринген подчеркивает, что неприкосновенность частной жизни является фундаментальным правом человека, и его разработка призвана вернуть людям контроль над собственной приватностью.

Как работает «обучение рисованию»

Работа над проектом велась в течение года. За это время Свиринген, находясь в Канзас-Сити, провел порядка 31 миллиона итераций тестов. Изначально это была небольшая лабораторная инициатива по противодействию конкретным алгоритмам с открытым исходным кодом, но впоследствии она переросла в полноценную модель обучения с подкреплением, способную самостоятельно генерировать и оптимизировать сложные визуальные схемы. Свиринген описывает этот процесс как «обучение модели рисованию»: система тестирует паттерн на устойчивость к алгоритмам распознавания, и если программа все еще способна идентифицировать объект, модель вносит коррективы и повторяет попытку, пока не добьется успеха.

На текущем этапе модель способна создавать паттерны, успешно обходящие все 11 протестированных алгоритмов распознавания, включая те, что используются в системах считывания номерных знаков Flock, нательных камерах Axon и технологиях Clearview AI. Система обновляет свои визуальные стратегии ежеминутно, используя данные каждого неудачного теста для повышения эффективности будущих решений.

Конфликт алгоритмов: как машинное зрение видит мир

Данный подход базируется на концепции состязательного машинного обучения. Компьютерные системы интерпретируют визуальную информацию принципиально иначе, чем человеческий глаз. Дизайн, который для нас выглядит как необычный графический узор, для модели может стать причиной классификационной ошибки или полной потери объекта из вида. В отличие от попыток физически скрыть камеру или перекрыть ей обзор, noRecognition воздействует именно на программный уровень, обрабатывающий видео, распознающий лица и номерные знаки.

Подобное ПО стало стандартным элементом современных сетей видеонаблюдения. Полиция и спецслужбы активно применяют эти инструменты для анализа архивов и поиска интересующих лиц, а частные компании и городские власти используют их для мониторинга парковок и общественных пространств. Хотя такие системы способны обрабатывать массивы данных, недоступные для ручного просмотра, они все чаще подвергаются критике из-за ошибок распознавания и потенциальных последствий неверной идентификации.

Свиринген отмечает, что на создание проекта его вдохновила высокая плотность камер в его родном Канзас-Сити и осознание того, насколько трудно сегодня перемещаться по городу, избегая автоматизированного слежения. Более того, он испытывал дискомфорт при посещении протестных акций, опасаясь, что участники могут попасть в поле зрения систем идентификации. Вдохновляясь работами художников и дизайнеров одежды, экспериментировавших с «анти-распознавательными» принтами, Свиринген перевел задачу на масштабный уровень алгоритмической оптимизации.

Сейчас в рамках проекта noRecognition запущена краудфандинговая кампания по производству одежды — футболок и худи с защитными паттернами. В будущем автор планирует разработать специальные покрытия для автомобилей. Главная задача сейчас — сделать узоры достаточно эффективными для работы на расстоянии, но при этом сохранить их пригодность для повседневного использования. Самые мощные версии паттернов пока остаются закрытыми: разработчик опасается, что производители систем наблюдения смогут слишком быстро адаптировать свои алгоритмы для их блокировки.

Источник: techspot.com