Суд разрешил администрации Трампа внести Anthropic в черный список

Апелляционный суд США одобрил решение администрации Дональда Трампа о внесении разработок компании Anthropic в санкционный перечень. Согласно вердикту, власти имели законные основания заблокировать технологическую компанию за ограничение определенных функций искусственного интеллекта, даже при условии отсутствия у разработчиков злого умысла.

Коллегия из трех судей Апелляционного суда округа Колумбия вынесла решение соотношением голосов 2 к 1. Служители Фемиды подчеркнули, что рассматриваемое дело затрагивает исключительно сложные вопросы применения новейших технологий в военных целях. В судебном заключении отмечается столкновение двух серьезных рисков: с одной стороны, излишне жесткие ограничения в нейросетях могут привести к неожиданному отключению систем и сбою важных армейских операций, а с другой — неконтролируемые модели способны галлюцинировать и ошибочно выбирать цели для летального оружия.

Два судебных решения и разные правовые нормы

Конфликт начался в марте, когда Дональд Трамп и министр обороны Пит Хегсетт потребовали от федеральных структур прекратить закупку продуктов Anthropic, а также запретили оборонным подрядчикам любые коммерческие контакты с данной фирмой. Представители компании выразили несогласие с вердиктом и заявили, что изучают возможности дальнейшего обжалования, напоминая о параллельном решении другого федерального суда, признавшего подобные ограничения незаконными.

Ситуация осложняется тем, что рассмотрение спора шло сразу в двух инстанциях. Прошлым месяцем суд в Северной Калифорнии встал на сторону разработчиков, посчитав внесение в черный список незаконным, поскольку компания не подпадает под критерии риска цепочки поставок, подразумевающие действия противников государства. Однако апелляционный суд указал на разницу в законодательных актах: окружной суд оценивал дело по закону, требующему злого умысла, в то время как апелляция рассматривала вопрос в рамках более широких полномочий и другого нормативного акта, не содержащего подобных ограничений.

Отсутствие злого умысла не освобождает от ответственности

В тексте постановления подчеркивается отсутствие умысла на вредительство со стороны разработчиков в их контактах с оборонным ведомством. Тем не менее, для применения положений закона о безопасности цепочки поставок наличие злого умысла не является обязательным условием, если речь идет о широком толковании термина «риск».

Согласно применимой статье законодательства, риском считается ситуация, при которой любое лицо может вмешаться в функционирование технологий с целью наблюдения, блокировки или нарушения работы систем. Суд счел правомерными опасения министра обороны относительно того, что Anthropic способна изменять настройки ИИ для предотвращения выполнения законных запросов силовиков.

Особое мнение и позиция несогласных

Судья Карен Хендерсон выступила с резким несогласием, высказав особое мнение. По ее мнению, законодательные нормы создавались для противодействия враждебным государствам и злоумышленникам, внедряющимся в технологические системы инфраструктуры, а не для наказания подрядчиков за честное соблюдение этических ограничений.

Ранее руководство компании заявляло о попытках властей оказать давление и наказать организацию за отказ снять запреты на использование нейросетей в автономном летальном оружии и массовой слежке. В свою очередь, апелляционный суд отметил, что заложенные в модель ограничения неоднократно останавливали выполнение запросов правительства, создавая неопределенность в ходе реальных военных операций за рубежом.