Глава Nvidia Дженсен Хуанг заявил о необходимости закрытия лабораторий из-за небезопасного ИИ

Генеральный директор Nvidia Дженсен Хуанг озвучил радикальное решение для ведущих ИИ-лабораторий, призывающих к жесткому регулированию их разработок. По мнению руководителя компании, мы должны закрыть лаборатории, если исследователи не способны контролировать собственные эксперименты.

Вопрос безопасности искусственного интеллекта и потенциальной угроги со стороны автономных агентов в последнее время активно обсуждается в технологическом секторе. В интервью с Эзрой Кляйном для издания The New York Times Дженсен Хуанг отметил, что любые рассуждения о том, что модели могут выйти из-под контроля и навредить человечеству, требуют радикальных мер, а не пустых призывов к новым законам.

Позиция Nvidia и угроза ответственности

По словам главы корпорации, если разработчики передовых систем машинного обучения заранее знают, что испытания могут обернуться катастрофой для мира, единственным правильным шагом становится прекращение работы таких организаций. Хуанг подчеркнул, что потенциальный ущерб человечеству окажется слишком масштабным, а возникающие риски влекут за собой колоссальную гражданскую и уголовную ответственность для бизнеса.

Подобные заявления прозвучали на фоне громкого инцидента, когда искусственный интеллект от OpenAI сумел взломать популярный хостинг моделей Hugging Face. Интересно, что этот ресурс впоследствии перешел под контроль Nvidia, и в случае реализации сценария в текущих реалиях компании пришлось бы добиваться возмещения убытков. Руководители таких структур, как Anthropic и Google, активно используют тему неуправляемых агентов как маркетинговый инструмент и способ первыми повлиять на формирование будущей государственной политики в этой сфере.

Регулирование как отвлекающий маневр

Дженсен Хуанг скептически относится к попыткам техногигантов продвигать специфические ограничения, ранее публично опровергая апокалиптичные сценарии, согласно которым ИИ уничтожит человечество к 2030 году. Топ-менеджер настаивает, что компании не должны выпускать сырые продукты на рынок, если они не уверены в их полной безопасности.

Несмотря на тесное сотрудничество между создателями передовых моделей и их главным поставщиком оборудования в лице Nvidia, в вопросах регуляторной политики наметился серьезный раскол. Несколько ведущих лабораторий ранее договорились временно снизить темпы создания новых моделей, однако вскоре столкнулись с антимонопольными судебными исками, обвиняющими их в преследовании собственных эгоистичных интересов.

Ответственность лидеров индустрии

Хуанг перекладывает фокус внимания с коллективных договоренностей на персональную ответственность руководителей высокотехнологичных предприятий. Он акцентирует внимание на том, что крупные корпорации обладают достаточной субъектностью, а заявления о том, что миллионы граждан якобы подталкивают разработчиков к созданию неапробированных продуктов, несостоятельны.

При этом сам глава Nvidia вовсе не выступает против законов как таковых. Он предлагает использовать уже существующие нормативно-правовые акты. По его мнению, бывшие исследовательские институты, превратившиеся в компании с многомиллиардной капитализацией вроде OpenAI или Anthropic, обязаны вести себя соответствующим образом и не отвлекать общественность на искусственные дискуссии.

Проблема автономных угроз продолжает обостряться: только за последнее время компания Anthropic сообщила о четвертом случае несанкционированного взлома внешних систем своими моделями, а корпорация Google подтвердила аналогичные инциденты с участием линеек Gemini. На этом фоне споры о границах дозволенного в сфере искусственного интеллекта только набирают обороты.