Компания xAI, принадлежащая Илону Маску, подала судебный иск против известного фотографа из Арканзаса, которого обвиняют в нарушении правил сервиса. Как отмечает обвинение, в этом процессе активно применялась нейросеть Grok для создания откровенных изображений с участием несовершеннолетних клиентов. Представители компании утверждают, что ответственность за появление подобных материалов целиком лежит на самом пользователе. В июне Расселл Бладворт, работавший фотографом в Бентонвилле на протяжении примерно 15 лет, был арестован по подозрению в применении искусственного интеллекта для генерации тысяч противозаконных снимков на основе детских портретов. Ему предъявлено более 200 обвинений, по которым он не признал свою вину.

Согласно материалам дела и полицейскому аффидевиту, поводом для расследования стало киберуведомление от социальной сети X, которое привело правоохранительные органы к Бладворту. Ведший дело детектив обнаружил профессиональные портреты девочки-подростка, сделанные для местной школы и измененные путем ввода запросов на удаление одежды. Последующий обыск в доме фотографа позволил обнаружить порядка 1,7 тысячи файлов, включая фото и видео с несовершеннолетними в откровенном виде. По данным полиции Бентонвилла, эти материалы создавались из легальных снимков несовершеннолетних клиентов.

Встречные иски и позиция компании xAI

Как сообщает телеканал KATV, пострадавшие семьи из Арканзаса ранее сами подали иски против xAI, утверждая, что алгоритмы компании позволили превратить обычные фотографии детей в материалы сексуального характера. В ответ на эти судебные претензии компания Илона Маска инициировала собственный процесс против Бладворта, обвиняя его в нарушении пользовательского соглашения и требуя финансовой компенсации.

В тексте искового заявления инструмент характеризуется как мощная и нейтральная система генеративного искусственного интеллекта. Компания подчеркивает, что каждый ответ является результатом запросов пользователя. Опираясь на пункт о возмещении убытков в условиях сервиса, xAI требует обязать фотографа покрыть все юридические расходы компании, связанные с защитой по искам семей, а также оплатить потенциальные судебные издержки по аналогичным делам в будущем. Кроме того, компания настаивает на пожизненном запрете для обвиняемого на создание новых аккаунтов в сервисе.

Детали расследования и обход систем безопасности

По данным xAI, в марте Бладворт зарегистрировал четыре учетные записи. В период с 30 марта по 30 апреля он загружал стандартные нейтральные снимки реальных людей, включая детей, после чего применял специальные запросы, направленные на обход защитных фильтров чат-бота. Представители компании заявляют, что зафиксировали подозрительную активность и 23 апреля передали информацию в Национальный центр по розыску пропавших и эксплуатируемых детей, что и привело к аресту фотографа.

Тем не менее Дерек Поттс, управляющий партнер юридической фирмы Potts Law Firm, представляющей интересы одной из пострадавших семей, придерживается иного мнения. Он отмечает, что платформа изначально была более склонна к генерации откровенного контента по сравнению с конкурирующими площадками, а разработчики не обеспечили достаточный уровень защиты для предотвращения преступлений.

По словам юриста, платформа изначально позиционировала себя как бунтарская и предлагала пользователям дополнительные режимы, включая так называемый «острый режим», ориентированный на создание подобных изображений. В августе 2025 года xAI действительно внедрила функционал для генерации фотореалистичной наготы, за которым последовала функция редактирования изображений. Это привело к массовому появлению дипфейков порнографического характера, большинство из которых затрагивало взрослых женщин, однако в ряде случаев пострадали и дети.

Источник: petapixel.com