Google запустила глобальный веб-сайт для проверки контента через универсальный детектор SynthID

Корпорация Google объявила о запуске специализированного веб-ресурса для проверки контента на наличие скрытых цифровых меток. Теперь глобальный веб-сайт SynthID позволяет пользователям самостоятельно определять следы работы различных систем искусственного интеллекта без необходимости обращаться к чат-боту Gemini.

Технология SynthID внедряет незаметные маркеры непосредственно в пиксели изображений и видеороликов, а также в звуковые волны аудиофайлов, созданных нейросетями. По данным компании, линейка моделей Gemini отметила таким образом огромные объемы медиаматериалов. Ранее для проверки файлов сторонним пользователям приходилось задействовать саму модель Gemini, что было не всегда удобно при получении простого ответа о происхождении контента.

Расширенная поддержка партнерских систем искусственного интеллекта

Новый веб-портал призван объединить проверку медиафайлов из разных источников на одной странице. Ключевым ограничением старых версий инструмента была привязка исключительно к разработкам самой поисковой системы. Теперь же платформа умеет распознавать водяные знаки всех участников альянса SynthID.

В список поддерживаемых систем вошли технологии от OpenAI, Nvidia, Kakao, а в перспективе ожидается интеграция решений от Apple. Пользователям больше не требуется переключаться между отдельными инструментами проверки каждой компании. Правда, веб-версия выдает более лаконичный результат по сравнению с внутренними профессиональными инструментами: вместо детализированного подсчета пикселей система выносит общую вердикт о наличии или отсутствии следов ИИ.

Ограничения использования и защита алгоритмов

Для работы с онлайн-сервисом потребуется учетная запись — платформа поддерживает авторизацию через аккаунты Google, OpenAI и Apple. Доступ предоставляется бесплатно, однако для каждого пользователя действует суточный лимит примерно на десять проверок графики, видео или звука.

Как поясняют инженеры разработчика, подобные ограничения введены намеренно. Жесткие квоты препятствуют попыткам злоумышленников автоматизировать запросы для создания утилит, способных удалять защитные водяные знаки. Кроме того, система может досрочно заблокировать пользователя при частой отправке однотипных файлов.

Проблемы маркировки и альтернативные методы защиты

Появление единого центра проверки облегчает поиск цифровых меток популярных платформ, однако экосистема искусственного интеллекта остается неоднородной. Некоторые разработчики применяют собственные методы маркировки, вроде технологий компании Meta, тогда как другие вообще не используют водяные знаки.

Дополнительную сложность представляют открытые модели с открытыми весами, которые пользователи запускают на собственных компьютерах и серверах для генерации реалистичного контента без базовых метаданных. Администрация ресурса сопровождает проверки соответствующим предупреждением. В будущем отрасль может сместиться в сторону криптографических стандартов вроде C2PA, которые изначально фиксируют подлинность контента прямо на этапе съемки на устройства вроде смартфонов Pixel, но пока водяные знаки остаются основным способом борьбы с фейками.