Instagram начнет резать охваты аккаунтам со скрытыми ИИ-персонажами

Instagram ужесточает правила: пессимизация за скрытие ИИ-персонажей

Социальная сеть Instagram официально анонсировала масштабные изменения в политике работы с генеративным контентом. Платформа начинает пессимизировать аккаунты, которые публикуют сгенерированные нейросетью изображения людей и создают виртуальные личности без соответствующего уведомления аудитории. Администрация социальной сети прямо заявила, что аккаунты, скрывающие использование искусственного интеллекта для создания своих ключевых персонажей, столкнутся со значительным искусственным ограничением охватов в ленте и рекомендациях.

Вместе с введением санкций разработчики обновляют терминологию. Прежняя плашка «ИИ-автор» (AI creator) уступает место более понятному и точечному обозначению — «ИИ-профиль» (AI-generated profile). По мнению руководства платформы, такая формулировка не оставляет пространства для двусмысленности и прямо информирует подписчиков о том, что визуальный образ человека в данном профиле создан или существенно изменен с использованием нейросетевых технологий.

Разграничение маркировки: кого затронут новые ограничения

Обязательные требования для виртуальных личностей

Обновленные правила распространяются в первую очередь на учетные записи, где главным объектом выступает полностью сгенерированный нейросетью человек или цифровой аватар. Если профиль ведется от лица несуществующего персонажа, созданного с помощью генеративного ИИ, владелец обязан установить соответствующий статус.

Важно отметить, что Instagram не запрещает создавать и продвигать виртуальных инфлюенсеров как таковых. Авторы, которые честно указывают плашку «ИИ-профиль», не будут подвергаться никаким штрафным санкциям или урезанию показов. Администрация подчеркивает: пессимизация грозит исключительно за утаивание факта использования нейросетей при создании человеческого образа.

Исключения: обработка фото и вспомогательный ИИ

Разработчики отдельно разъяснили случаи, когда устанавливать специальный статус не требуется. Новая маркировка не распространяется на стандартные творческие инструменты и рутинное использование нейросетей. Авторам не нужно помечать свой аккаунт как «ИИ-профиль», если они применяют искусственный интеллект для:

• Базовой цветокоррекции, ретуши и обработки реальных фотографий;
• Улучшения и редакции текстовых подписей к публикациям;
• Создания отдельных графических элементов или оформления постов;
• Других вспомогательных художественных и технических правок контента.

Таким образом, обычные блогеры и фотографы, использующие нейросети как инструментарий для обработки, не подпадают под жесткие требования новой политики.

Причины ужесточения: обман пользователей и токсичные кейсы

Принятое решение стало прямой реакцией компании на массовые жалобы пользователей. Читатели регулярно сталкивались в ленте с профилями, которые выглядели как аккаунты реальных людей, а впоследствии оказывались полностью синтетическими персонажами. Пользовательский опыт ухудшался из-за чувства обмана и невозможности с первого взгляда отличить настоящего человека от сгенерированной картинки.

В официальном заявлении Instagram отмечается: по мере того как генеративный ИИ становится естественной частью творчества, люди все чаще выражают недовольство, сталкиваясь с профилями, которые имитируют человека без явного на то указания. Пользователи хотят заранее знать, когда перед ними находится сгенерированный нейросетью персонаж.

Реклама

Расследования и скандалы вокруг вирусных ИИ-блогеров

Градус общественного напряжения вокруг синтетического контента существенно вырос в течение последнего года. Несколько громких расследований показали, как виртуальные инфлюенсеры используются в серых и манипулятивных схемах.

Ярким примером стала публикация издания Wired, посвященная приложению для знакомств Goose. Журналисты обнаружили в Instagram сеть из более чем двух десятков аккаунтов, которые вели сгенерированные нейросетью мужчины-инфлюенсеры. Эти виртуальные профили не просто публиковали контент, но и активничали в личных сообщениях, рассылая пользователям спам с призывами зарегистрироваться в дейтинг-сервисе.

Еще более тревожная ситуация сложилась в сфере медицины и здорового образа жизни. В июльском расследовании газеты The New York Times сообщалось об обнаружении сотен аккаунтов с ИИ-врачами, фитнес-экспертами и «целителями». Сгенерированные персонажи с якобы медицинским образованием давали подписчикам нерасплывчатые советы по здоровью, делали сомнительные медицинские заявления и агрессивно продвигали биологически активные добавки к пище.

Контекст и проблемы Meta: от спорных функций к регуляторному давлению

Объявление о маркировке ИИ-профилей произошло на фоне серии других громких событий вокруг материнской компании Meta. Ранее платформе уже пришлось столкнуться с жесткой критикой пользователей из-за внедрения ИИ-инструмента, позволявшего генерировать изображения с использованием внешности реальных людей. Пользователи Instagram выразили решительный протест против использования их публичных фотографий без прямого предварительного согласия, в результате чего Meta была вынуждена полностью отключить эту функцию.

Кроме того, на прошлой неделе Meta пошла на крупное мировое соглашение с американскими штатами, выплатив 18 миллиардов долларов по искам, связанным с негативным влиянием Facebook и Instagram на несовершеннолетних. В рамках этого соглашения корпорация взяла на себя обязательства ввести жесткие ограничения для подростков: двухчасовой лимит на ежедневное использование приложений по умолчанию, ночной режим блокировки (Night Mode), отключение уведомлений в учебные часы и другие защитные меры.

Внедрение обязательной маркировки «ИИ-профиль» станет очередным шагом платформы на пути к восстановлению доверия пользователей и попыткой упорядочить стремительно развивающийся рынок виртуальных инфлюенсеров.

Источник: techcrunch.com