Генеральный директор Anthropic Дарио Амодей недавно выступил с развернутым ответом на критику в свой адрес, касающуюся того, что он якобы нагнетает пессимистические настроения вокруг будущего искусственного интеллекта. Поводом для дискуссии стали заявления инвестора Гэвина Бейкера, озвученные им как в подкасте All-In, так и в социальной сети X. По мнению Бейкера, публичные предостережения Амодея об экзистенциальных и прикладных угрозах ИИ спровоцировали общественную реакцию и рост скептицизма в США, что особенно заметно в отношении строительства новых дата-центров.

Конфликт риторики и ответственности

Гэвин Бейкер прямо заявил, что Амодей, возглавляющий одну из самых влиятельных компаний в технологическом секторе, «проиграл аргументацию» в вопросах регулирования индустрии. Инвестор подчеркнул, что Anthropic активно поддерживает государственные инициативы, включая законопроект Калифорнии, накладывающий жесткие требования по прозрачности на разработчиков крупных нейросетевых моделей. По словам Бейкера, пришло время Амодею стать более позитивным амбассадором технологий, которые он развивает, вместо того чтобы транслировать алармистскую повестку.

В ответ на это Амодей опубликовал серию постов, в которых решительно отверг тезис о том, что его коммуникация смещена в сторону негатива. Он настаивает, что его риторика сбалансирована: он уделяет одинаковое внимание как потенциальным рискам, так и огромным возможностям технологии. Свое эссе «Машины, полные благодати» (Machines of Loving Grace) он написал именно потому, что, на его взгляд, индустрии ИИ не хватало вдохновляющего видения того, как нейросети могут радикально улучшить мир. Тем не менее, глава Anthropic признает: общественное мнение действительно настроено негативно, и это серьезная проблема для отрасли.

Кризис доверия к технологическому сектору

Амодей не согласен с тем, что текущая ситуация вызвана высказываниями лидеров ИИ-индустрии о рисках. Он считает, что мы имеем дело с масштабным и системным «кризисом доверия». По его мнению, рядовые люди в принципе не доверяют крупным корпорациям, правительственным структурам и технологическим гигантам, заранее ожидая от них подвоха или попыток действовать в ущерб интересам потребителей.

Для Амодея этот скепсис — лишь очередная глава в многолетней истории недоверия, которая существовала задолго до бума нейросетей. Он подчеркнул, что наиболее справедливая критика в адрес компаний, включая Anthropic, заключается в том, что разработчики пока не выполнили свои масштабные обещания. Амодей считает, что фокусироваться на «маркетинге и сообщениях» бессмысленно: обещание, что ИИ «вылечит рак», стало избитым клише. Реальное отношение общественности изменится только тогда, когда технология действительно принесет столь значимый практический результат.

Регулирование: поиск «правил дороги»

Особое внимание в дискуссии было уделено теме регулирования. Амодей счел аргументы Бейкера о «ложном выборе» ошибочными. Он подчеркнул, что в Кремниевой долине популярна установка: любое регулирование равно «захвату отрасли» (regulatory capture) и концентрации власти в руках избранных. Однако, по словам Амодея, это излишне упрощенная картина мира. Для многих людей за пределами технологического «пузыря» регулирование представляется механизмом, ограничивающим корпоративное своеволие и защищающим граждан.

При этом Дарио Амодей уточнил свою позицию: он не поддерживает тотальное государственное вмешательство, но старается формулировать предложения Anthropic максимально аккуратно. Его цель — предложить такие правила, которые одновременно замедляли бы развитие лидеров рынка (включая саму Anthropic) и создавали преференции для более мелких игроков.

Почему ИИ стремится к монополии

Амодей убежден, что ИИ является структурно склонной к концентрации власти технологией. По его мнению, модели с «открытыми весами» не являются достаточным решением проблемы: они лишь переносят центр тяжести к тем игрокам, у которых есть доступ к колоссальным вычислительным мощностям и дефицитным чипам. Правильный подход, с его точки зрения, должен включать комплексные «правила дороги», которые позволили бы:

• Купировать кибернетические, биологические риски и угрозы, связанные с проблемой контроля (alignment).
• Институционально ограничивать влияние передовых ИИ-компаний.
• Сохранять поле для развития открытых моделей, параллельно минимизируя специфические риски, связанные с их доступностью.

Таким образом, Амодей призывает к конструктивному диалогу, где критерием успеха станут не PR-заявления, а реальные дела, приносящие пользу обществу и ограничивающие неконтролируемое доминирование крупнейших корпораций.

Источник: techcrunch.com