Проверка Microsoft Copilot: подрядчики видят загруженные фото и откровенный контент

Недавнее расследование показало, что нанятые сторонние подрядчики, проверяющие работу встроенного редактора изображений Microsoft Copilot, имеют прямой доступ к пользовательским запросам, исходным фотографиям и сгенерированным искусственным интеллектом вариантам. Как выяснилось из утекших документов, среди таких материалов регулярно попадаются изображения откровенного, тревожного или потенциально противозаконного характера.

При этом главной задачей таких специалистов является вовсе не модерация контента или проверка правомерности подобных запросов. Я, Сергей Багров, детально изучил этот материал, чтобы разобраться, как устроена внутренняя оценка работы алгоритмов компании.

Как устроена проверка результатов Copilot

В ходе типичной рабочей задачи подрядчик получает текстовый запрос пользователя, оригинальный файл, а также две разные версии картинки, созданные нейросетью Copilot. Специалист должен проанализировать материалы и определить, какая именно версия точнее следует исходному заданию.

Процесс оценки охватывает четыре ключевых параметра. Проверяющие контролируют, выполнил ли ИИ требуемую правку, оставил ли нетронутыми остальные участки изображения, удалось ли избежать заметных дефектов и получилось ли в итоге качественное полотно. Если пользователь просит добавить на стол кружку, она должна остаться единственным изменением в кадре.

Субъективная оценка и интуиция

Инструкции, изученные журналистами, также требуют от проверяющих полагаться на личное субъективное мнение. Документы рекомендуют доверять внутренней интуиции при сравнении двух картинок лицом к лицу, когда требуется быстро ощутить, какая из них выглядит качественнее.

Разработчики руководств отмечают, что если возникают сомнения, стоит опираться на первое впечатление. Человеческая интуиция помогает улавливать тонкие нюансы качества, которые крайне сложно формализовать и описать словами.

С чем сталкиваются проверяющие на практике

Тем не менее, многие рабочие задания выходят далеко за рамки рутинной коррекции фотографий. Подрядчики рассказали, что регулярно видят запросы на увеличение груди у женщин, укорочивание юбок, демонстрацию ног или размещение людей в откровенных позах.

Кроме того, в системе фиксировались материалы со скрытой съемкой под юбкой (upskirt), пропаганда расстройств пищевого поведения (про-анорексия) и фетиш-контент с детскими мультяшными персонажами. Лица на снимках остаются не затушеванными, а сами промпты часто носят сомнительный характер в плане согласия.

Реакция персонала на спорный контент

Сотрудники отмечают, что их нанимают не для оценки этичности запросов. Им платят за оценку соответствия ответа ожиданиям, что иногда заставляет выбирать среди откровенно эротических вариантов.

В закрытых чатах работники открыто возмущаются подобной спецификой задач. Некоторым приходится сталкиваться с подобным контентом совершенно неожиданно, натыкаясь на серии сомнительных снимков прямо во время проверки.

Масштаб проблемы и реакция корпораций

Полученные документы подтверждают, что по меньшей мере сотни людей регулярно просматривают материалы пользователей Copilot. Это означает, что загружаемые для редактирования личные фотографии могут оказаться на экране у сторонних подрядчиков в рамках алгоритмического обучения.

Одной из компаний, нанимающих персонал для такой работы, выступает платформа Prolific, которая занимается сбором обратной связи для настройки предпочтений и тестирования безопасности ИИ. В их внутренних правилах прямо указано, что генеративный искусственный интеллект может демонстрировать работникам непредвиденный контент.

Позиция Microsoft

Представители компании Prolific отказались давать официальные комментарии прессе. В то же время официальный спикер Microsoft заявил журналистам, что корпорация использует клиентские данные исключительно в строгом соответствии с условиями пользовательского соглашения, включая улучшение продуктов и соблюдение правил поведения.

Крупные технологические игроки годами привлекали подрядчиков для ручной модерации и разметки обучающих данных. Однако описанные задачи для Copilot преследуют совершенно иную цель: вместо фильтрации опасного контента специалисты сравнивают результаты работы нейросети, чтобы повысить точность и послушность встроенного редактора.