Концепция нулевое удержание данных предоставляет правомочным клиентам API четкую гарантию: компания OpenAI не сохраняет запросы пользователей или ответы моделей после завершения обработки запроса. Содержимое клиентов недоступно сотрудникам OpenAI для проверки, а корпоративные данные не используются для обучения моделей, если пользователи явно не дали на это согласие. По мере того как модели берут на себя более длительные и сложные задачи, некоторые серьезные риски могут проявляться только при анализе нескольких взаимодействий. Существующие системы безопасности, совместимые с ZDR, оценивают каждое обращение по отдельности. Теперь разработчики представляют технологию Private Safety Processing, созданную для выявления закономерностей между связанными сессиями без предоставления сотрудникам OpenAI доступа к исходному контенту.

Особенности архитектуры и защиты информации при внедрении ZDR

При развертывании в рамках ZDR клиентский контент остается на инфраструктуре, которую контролируют сами заказчики. Дополнительно разрабатывается вариант хранения данных на серверах OpenAI, но с шифрованием ключами, которые находятся под единоличным управлением клиента. В обоих сценариях автоматизированные системы способны фиксировать потенциальные злоупотребления и возвращать ограниченные сигналы безопасности, не раскрывая исходные промпты или ответы персоналу компании. Наиболее серьезные угрозы в сфере искусственного интеллекта далеко не всегда заметны в рамках одного изолированного запроса. Зачастую деструктивные намерения проступают лишь тогда, когда рассматриваются в совокупности несколько взаимосвязанных действий.

Подобные риски возникают, когда злоумышленники систематически тестируют защитные барьеры, координируют активность между разными учетными записями или маскируют угрозы под видом обычных исследовательских задач. Угрозы также развиваются по ходу выполнения агентных задач — например, если система отклоняется от изначальных установок пользователя и продолжает действовать после команды об остановке. Поскольку ИИ-системы справляются со все более продолжительными и многоступенчатыми процессами, такой широкий контекст приобретает решающее значение для разделения легитимной деятельности и нарушений, а также для контроля за тем, чтобы автономные агенты не выходили за рамки дозволенных полномочий.

Принципы работы Private Safety Processing

Некоторые недавние внедрения передовых моделей обязывали клиентов разрешать поставщикам услуг сохранять конфиденциальные материалы для мониторинга безопасности. Для многих организаций подобные требования противоречат их внутренним стандартам информационной безопасности или обязательствам перед конечными пользователями. Технология Private Safety Processing спроектирована таким образом, чтобы компания могла продолжать гарантировать нулевое удержание данных. Новый подход опирается на автоматизированные механизмы защиты, которые уже задействованы в ZDR и других инфраструктурных решениях.

Если раньше совместимые системы оценивали каждый эпизод отдельно, то теперь защитные меры распространяются на цепочки связанных запросов. Это позволяет автоматически распознавать подозрительные паттерны, исключая доступ персонала OpenAI к сохраненному клиентскому контенту. Обработка данных происходит независимо от места их хранения — будь то собственная инфраструктура заказчика или защищенные хранилища провайдера. Во втором случае информация шифруется клиентскими ключами, копий которых у сотрудников компании нет, что технически исключает возможность прочтения исходных текстов.

При обнаружении потенциальной угрозы система формирует строго ограниченный сигнал с указанием типа зафиксированной активности, аналогично действующим защитным алгоритмам. На основе этого уведомления принимается решение о необходимости применения мер принудительного характера, однако сами сотрудники компании не получают доступа к затронутому контенту. Клиенты самостоятельно расследуют инциденты, опираясь на собственные журналы и данные систем. При необходимости оспорить решение, подтвердить легитимность запроса или содействовать расследованию доказанного злоупотребления организации могут добровольно предоставить необходимые сведения специалистам OpenAI. В настоящее время Private Safety Processing проходит этап тестирования с первыми пользователями, а необходимость заблаговременного анонса обусловлена запросами рынка на предсказуемость защиты данных по мере роста возможностей искусственного интеллекта.

Главная цель заключается в том, чтобы общий искусственный интеллект приносил пользу всему человечеству, а тесное взаимодействие с партнерами и клиентами выступает фундаментом для создания надежных защитных механизмов. Ни одна профильная лаборатория не способна в одиночку справляться с возникающими рисками, и концепция Private Safety Processing учитывает эту реальность, развиваясь с учетом запросов компаний из самых разных секторов экономики, регионов и масштабов бизнеса. Организации, использующие эти инструменты, работают с критически важными сведениями, включая медицинские показатели, финансовую отчетность, закрытые бизнес-планы и секретные научные разработки. Обеспечение безопасности этих данных критически важно для выполнения нормативных требований, сохранения доверия аудитории и поддержания рыночных позиций. Практические отзывы партнеров позволяют совершенствовать защитные барьеры, гарантируя клиентам полный контроль над собственной информацией.

Как отмечают разработчики платформы Glean, внедрение корпоративного искусственного интеллекта полностью опирается на способность пользователей контролировать свои сведения, исключая любые прямые или производные варианты использования за рамками выбранной услуги. Отказ от обучения моделей на пользовательских данных дает уверенность в безопасности интеграции, подтверждая, что технологический прогресс не должен идти вразрез с конфиденциальностью. Разработчики намерены и дальше вести диалог с бизнесом по поводу технических и операционных аспектов данного подхода.

Запуск Private Safety Processing и публикация подробного технического описания запланированы на сентябрь. Представители компании обещают своевременно информировать пользователей обо всех изменениях, разъяснять их влияние на действующие соглашения и предоставлять необходимую поддержку для предварительного планирования.

Источник: openai.com