Запуск обновленного режима для подростков от OpenAI

Компания OpenAI начинает глобальное внедрение специализированного режима под названием ChatGPT for Teens, который призван сделать использование искусственного интеллекта несовершеннолетними более безопасным и образовательным. Новая система автоматически переведет молодых пользователей в этот режим, причем создавать отдельную учетную запись или менять настройки вручную не потребуется. Как пояснила Лорен Джонас, возглавляющая направление работы с молодежью и семьями в компании, если алгоритмы прогнозируют возраст пользователя менее 18 лет или если он сам указал такие данные, этот интерфейс становится стандартным по умолчанию.

Необходимость подобных мер отчасти обусловлена событиями годичной давности. В сентябре прошлого года против компании был подан судебный иск в связи с трагической гибелью 16-летнего Адама Рэйна, после чего разработчики объявили о создании защитного механизма для автоматического выявления подростков и ограничения их взаимодействия с чат-ботом. Теперь эта система начинает полноценную работу.

Обучение и академический уклон

Новый пользовательский опыт для подростковой аудитории строится на двух ключевых направлениях: образовании и безопасности. В части обучения задействованы функции, представленные разработчиками за прошедший год для превращения нейросети в эффективный инструмент обучения.

Основой этого подхода выступает «Режим учебы» (Study Mode), анонсированный прошлым летом. В этом режиме чат-бот применяет сократический метод ведения диалога: вместо выдачи готового ответа система помогает пользователю самостоятельно найти правильное решение. Хотя по умолчанию ChatGPT for Teens не запускает этот режим автоматически, компания внедряет инструменты для мягкого перенаправления юных пользователей в данную среду.

Среди таких инструментов выделяются стартовые подсказки, которыми подростки, по словам Джонас, активно пользуются. Набор этих подсказок будет со временем меняться, но их направленность останется исключительно образовательной. Дополнительно вводится функция «Учебные часы» (Study Hours), позволяющая активировать «Режим учебы» в определенные временные промежутки. Подростки могут настраивать их самостоятельно либо предоставить контроль родителям через связанный аккаунт.

Даже без предварительной настройки учебных часов система способна распознавать попытки пользователя избежать выполнения домашних заданий и мягко перенаправлять его к академическому формату диалога. По словам Джонас, полевые испытания «Режима учебы» в рамках рандомизированных контрольных тестов продемонстрировали рост эффективности, хотя конкретные цифровые показатели представитель компании называть не стала, отметив лишь, что результаты учитываются при формировании дальнейшей стратегии.

Техническая сторона образовательного процесса также была улучшена. В частности, усовершенствована генерация визуальных материалов для объяснения сложных концепций. Если в момент появления функции в марте поддерживалось около 70 тем, то теперь их количество превышает 300. В этот список входят интегралы, процессы митоза и фазы луны.

Безопасность, личные границы и родительский контроль

В сфере безопасности разработчики сосредоточились на снижении вероятности антропоморфизации чат-бота со стороны молодых пользователей. Вводятся жесткие ограничения на формирование эмоциональных связей: модель не должна позиционировать себя как друга, намекать на наличие личных чувств или заявлять о собственной разумности.

На практике это выражается в нескольких аспектах. Встроенные напоминания о необходимости сделать перерыв теперь чаще акцентируют внимание на том, что искусственный интеллект не требует немедленного ответа. Кроме того, подростки и их родители получили возможность настраивать часы тишины, в течение которых доступ к чат-боту полностью блокируется. Специальные возможности кастомизации, такие как обои интерфейса, позволяют персонализировать приложение, не стирая грань между полезным инструментом и человеческим общением.

Месяц назад компания анонсировала систему уведомлений для родителей, чьи дети используют связанные аккаунты, если те нарушают правила в отношении насильственных угроз. Начиная с сегодняшнего обновления, эта практика распространяется на случаи, связанные с расстройствами пищевого поведения. В OpenAI пояснили, что под расширение мер безопасности подпадают любые диалоги, указывающие на серьезные риски самоповреждения.

Уведомления отправляются родителям посредством текстовых сообщений, внутрисистемных оповещений и электронной почты. Перед отправкой каждое отмеченное системой сообщение проходит ручную проверку штатные сотрудники компании стараются передать информацию родителям в течение часа после фиксации инцидента. Компания продолжает совершенствовать алгоритмы выявления эмоционального кризиса у подростков в сотрудничестве с независимыми экспертными организациями, чтобы вовремя предоставлять необходимую поддержку.

Перспективы и сроки развертывания

Вопрос эффективности систем возрастной верификации в условиях тестирования остается открытым, поскольку подобные механизмы не лишены уязвимостей, а современные платформы часто сталкиваются с обходом ограничений со стороны технически подкованных пользователей. Тем не менее, учитывая повышенное внимание общественности к взаимодействию несовершеннолетних с ИИ, разработчики уделяют этому аспекту пристальное внимание.

Как подчеркнула Лорен Джонас, запуск защищенного режима является лишь первым шагом в долгосрочной стратегии обеспечения безопасности. Работа в этом направлении ведется непрерывно, поскольку технологии должны оставаться доступными для молодежи, но использоваться в безопасном ключе, открывающем реальные возможности.

Глобальное развертывание функции ChatGPT for Teens стартовало сегодня и, как ожидается, полностью завершится в течение ближайших двух недель.

Источник: engadget.com