Дискуссия об открытости искусственного интеллекта на конференции Ai4

Пока такие проекты, как Pacing the Frontier, ориентируются на ведущие лаборатории в качестве средства обеспечения безопасности искусственного интеллекта, модели с открытым исходным кодом превратились в болезненную тему для всей индустрии. Из-за свободного распространения и минимального контроля над сферами применения модели с открытыми весами с трудом поддаются регулированию, что заставляет некоторые профильные лаборатории относиться к ним откровенно со страхом. Тем не менее, в рамках прошедшей на прошлой неделе конференции Ai4 в Лас-Вегасе трое всемирно уважаемых исследователей в области искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, генеральный директор и сооснователь World Labs Фей-Фей Ли, а также сооснователь Coursera Эндрю Нин — выступили по этому острому вопросу. И хотя мнения экспертов в отношении конкретных тактических шагов разошлись, все они убедительно обосновали необходимость сохранения искусственного интеллекта открытым.

Угроза монополизации и проблема технологических привратников

Для всех трех спикеров ключевая тревога заключалась в потенциальной возможности для горстки крупнейших ИИ-компаний единолично контролировать темпы прогресса. Когда доступ к передовым технологиям контролируется лишь несколькими игроками, подобно тому, как корпорации Apple и Google управляют мобильными операционными системами, инновационный процесс может замедлиться, а платформенные гиганты получают рычаги влияния на то, какие именно продукты создаются на базе их инфраструктуры. Эндрю Нин заявил, что опасается возникновения аналогичной динамики в индустрии искусственного интеллекта. Ученому претит перспектива появления неких привратников, поскольку это неизбежно ограничивает возможности каждого из нас в деле взаимодействия с технологиями.

У корпораций всегда есть мощные стимулы для защиты собственных конкурентных преимуществ, в том числе через лоббирование правил, регулирующих всю отрасль. Подобный подход способен породить ситуацию, при которой выживать и развиваться смогут исключительно крупнейшие и обладающие наилучшим финансированием игроки, способные самостоятельно конструировать самые продвинутые системы. В качестве противоядия Эндрю Нин предложил поддерживать существование множества независимых провайдеров. По его мнению, модели и компании должны конкурировать между собой, вместо того чтобы позволять узкой группе участников полностью доминировать в данном поле. Если бы Нин давал единственный рецепт, это было бы продвижение принципов открытости, так как искусственный интеллект представляет собой потрясающую технологию, которую исследователь стремится передать в руки каждого человека.

Различие между открытым кодом и открытыми весами

Тем не менее, далеко не все участники дискуссии сошлись во мнении, что открытые веса способны помочь в сохранении подобного баланса сил. В частности, Джеффри Хинтон провел четкую границу между традиционным программным обеспечением с открытым исходным кодом, которое делает базовый код доступным для детального изучения и модификации, и моделями с открытыми весами, предполагающими публичную выгрузку параметров уже обученной нейросети. Открытый код прекрасен, когда специалисты изучают строчки и находят баги, однако открытые веса означают передачу параметров уже готовой масштабной модели. Хинтон отметил изначальное противодействие подобному подходу, поскольку это чересчур упрощает процесс адаптации дорогих в обучении фундаментальных моделей злоумышленниками для вредоносных целей, таких как кибератаки, причем за значительно меньшие деньги.

При этом, несмотря на все свои оговорки, Хинтон признал, что модели с открытыми весами уже стали перманентным элементом современного ландшафта ИИ. По его оценке, эта битва уже проиграна, так как барьер в виде колоссальной стоимости обучения фундаментальных моделей исчез для широкого круга лиц, и действовать уже поздно. Однако принятие сложившейся реальности не означает игнорирование потенциальных рисков. Позиция Хинтона предельно ясна: искусственный интеллект продолжит развиваться, и в глобальном смысле это благо, способное повысить производительность труда, а также улучшить сферы образования и здравоохранения. Ученый добавил, что тревога по поводу негативных последствий действий высокоинтеллектуальных систем вполне обоснована, и несправедливо навешивать ярлык паникеров на тех, кто разделяет подобные опасения.

Геополитическое измерение и глобальная конкуренция

У Эндрю Нина оказалась несколько иная точка зрения на проблему. Он аргументировал свою позицию тем, что главный вопрос заключается вовсе не в том, несут ли открытые модели риски, а в том, кто именно контролирует доступ к технологиям и кто одержит победу на рынке. Преимущество гарантированно получит тот, кто создаст более дешевую модель. Если открытые китайские модели завоюют широкое признание на территории Азии, Африки и развивающегося мира в целом, они начнут формировать у миллиардов людей представления о демократии, свободе и базовых правах человека. Нин выразил надежду на стимулирование американской конкурентоспособности и открытого искусственного интеллекта, подчеркнув, что ИИ выступает мощнейшим инструментом мягкой силы. В качестве примера он привел колоссальные успехи китайских разработок на африканском континенте.

Главное опасение исследователя связано с тем, что на фоне лоббизма и запугивания в Соединенных Штатах местным создателям открытого ПО становится все труднее конкурировать с аналогами из Китая. Если китайская сторона найдет фундаментально более экономичный метод создания ИИ, экономически эффективные решения получат непреложное рыночное преимущество.

Многоуровневый подход и отказ от крайностей

Фей-Фей Ли решительно оспорила столь радикальную постановку вопроса, назвав опасным сведение дискуссии к дихотомии между абсолютной открытостью и полной закрытостью. В сложных программных и научных системах всё гораздо тоньше и многограннее. В качестве наглядной аналогии Ли привела ядерную физику: научные статьи там публикуются совершенно свободно, уран строго регулируется, а лабораторные исследования занимают промежуточное положение. Из этого следует, что открытость не обязана быть принципом «все или ничего», ведь различные уровни экосистемы могут функционировать при разной степени прозрачности.

Исследовательница также напомнила об успешных примерах синергии государственного и частного секторов, включая проект «Геном человека». Полученные в результате работы знания сформировали общедоступную платформу, ставшую фундаментом для дальнейших открытий, на которой фармацевтические компании могут зарабатывать, ученые — двигать науку вперед, а общество — получать практическую пользу. По мнению Ли, искусственный интеллект необходимо использовать именно в качестве подобной инфраструктуры, сочетая уровни открытости в научных исследованиях, образовании и глобальном партнерстве с прибыльными бизнес-моделями для предпринимателей. При этом эксперт призывает принимать и закрытые системы, назвав дебаты на уровне «мы можем терпеть только что-то одно» ложными и требующими перехода к более взвешенному пониманию.

Необходимость разумного регулирования

Тем не менее, все участники сошлись во мнении, что определенный уровень государственного и общественного регулирования все же необходим для того, чтобы направлять развитие искусственного интеллекта в конструктивное русло. Как резюмировал Джеффри Хинтон, общей целью должно стать развитие ИИ ради помощи людям, чему как раз и поспособствует грамотное регулирование. По его словам, недопустимо оставлять вопросы контроля над тем, как именно создаются технологии искусственного интеллекта, на откуп таким фигурам, как Илон Маск или Марк Цукерберг.

Источник: techcrunch.com