Эффективный демократический контроль ИИ в сфере национальной безопасности требует новых подходов и экспертной поддержки, поскольку технологии меняют методы защиты государства. Компания OpenAI запускает новую инициативу, призванную помочь демократическим надзорным органам развить необходимые компетенции и получить инструменты для контроля за использованием искусственного интеллекта государственными структурами.

Искусственный интеллект трансформирует процессы обеспечения безопасности граждан. Технологии помогают отражать кибератаки, защищать критическую инфраструктуру, заранее выявлять угрозы и предоставлять государственным служащим более четкую картину происходящего в кризисных ситуациях. При грамотном применении такие инструменты укрепляют национальную оборону. Демократический надзор гарантирует, что использование государственной власти остается подотчетным обществу.

Поскольку искусственный интеллект ускоряет работу в сфере национальной безопасности и расширяет ее возможности, институты, отвечающие за надзор, должны развиваться с той же скоростью. Системы могут действовать на основе неполного или устаревшего контекста, некорректных целей или ошибочных предположений с огромной скоростью и в больших масштабах. Из-за этого ошибки становится гораздо сложнее выявить вручную до того, как они распространятся. Контроль особенно важен в данной сфере, поскольку решения часто связаны с государственной тайной и влекут за собой серьезные последствия.

Руководствуясь собственными принципами национальной безопасности, компания подходит к внедрению таких технологий с помощью надежных механизмов защиты, значимого участия человека и надлежащего контроля, особенно в критических ситуациях. Эти принципы также предполагают оказание помощи институтам контроля в наращивании потенциала для мониторинга работы систем на высокой скорости.

Развитие надзора и внутренние стандарты компании

Государственные институты уже обладают установленными полномочиями и обязанностями по контролю за деятельностью в сфере национальной безопасности. Когда в эти процессы внедряется искусственный интеллект, методы надзора требуют адаптации. Традиционный контроль требует больших трудозатрат и становится практически невозможным, когда небольшие команды, использующие методы эпохи бумажных документов, пытаются проверять системы, функционирующие на машинной скорости.

В компании убеждены, что более мощные системы требуют более надежного контроля, и применяют этот принцип к собственной деятельности. Согласно Рамкам готовности (Preparedness Framework), передовые модели проходят тщательную проверку перед развертыванием для оценки их возможностей и достаточности мер безопасности. Этот анализ продолжается и после запуска посредством постоянного мониторинга и разбора инцидентов, а полученные данные используются для усиления защиты и разработки будущих моделей.

При этом разработчики не берут на себя функции государственного контроля и не должны этого делать. Данная ответственность лежит на избранных должностных лицах и профильных публичных институтах. Задача технологических компаний заключается в поддержке надзорных ведомств с помощью технологий при выполнении ими своих прямых мандатов.

Базовые принципы и планы инициативы

В основу этой работы положены три ключевые принципа:

• Искусственный интеллект должен укреплять, а не заменять человеческие и институциональные суждения. Решения о законности, уместности и соответствии действий государства правилам остаются за уполномоченными ведомствами и легитимными органами надзора.
• Государственное применение ИИ должно быть прозрачным и понятным для уполномоченных проверяющих. Специалисты должны понимать роль технологии в принятии решений, сохраняя при этом конфиденциальность секретной и чувствительной информации.
• Искусственный интеллект должен служить инструментом расширения возможностей демократических надзорных институтов. Ручной контроль не справляется с масштабами внедрения технологий, поэтому сами контролирующие органы должны использовать ИИ ответственным и понятным образом в рамках своих мандатов.

В течение следующего года реализация инициативы будет осуществляться по двум основным направлениям:

1. Сотрудничество с уполномоченными лицами для поиска практических возможностей повышения эффективности надзора с помощью ИИ-инструментов и технической поддержки.
2. Выделение пяти миллионов долларов в виде обучающих программ, технического содействия и кредитов на платформы компании для демократических государственных ведомств с целью поддержки ответственного внедрения и оценки технологий.

Практические шаги и сотрудничество

Планируется совместная работа с контрольными инстанциями над внедрением специализированных инструментов. Эти решения помогут уполномоченным специалистам анализировать материалы, касающиеся государственных решений с использованием искусственного интеллекта, включая исходные данные, результаты и особенности применения технологий, для глубокого понимания влияния алгоритмов на итоговые решения. По возможности такие разработки будут создаваться универсальными и совместимыми с различными моделями. При этом контроль над всеми доказательствами, результатами и выводами останется исключительно за участвующими ведомствами, а не за компанией OpenAI, а доступ к ним сохранится только у допущенных государственных служащих.

Кроме того, предусмотрено взаимодействие с гражданским обществом и профильными экспертами, чтобы их экспертное мнение учитывалось при создании таких инструментов и распределении сопутствующей ответственности. Искусственный интеллект способен как концентрировать власть, так и помогать демократическим институтам более эффективно реализовывать свои полномочия и осуществлять надзор. Будущее зависит не от технологий самих по себе, а от решений, которые принимают государственные институты и компании уже сегодня. Успех этой инициативы будет оцениваться по тому, смогут ли проверяющие органы лучше справляться со своими задачами, а общественность — получить больше оснований для доверия к тому, что государственные системы искусственного интеллекта применяются строго по назначению. По мере развития правительственного использования таких технологий компания намерена и дальше оказывать поддержку структурам, отвечающим за надзорные функции.

Источник: openai.com