Размышляя о том, как сформулировать будущее искусственного интеллекта OpenAI и его влияние на общество, новая команда Strategic Futures открывает специальный блог AI Futures. Автор публикации Дин Болл (Dean Ball) подчеркивает, что изложенные здесь взгляды отражают его личную экспертную позицию и не обязательно совпадают с официальной платформой компании или мнением всех её сотрудников.

В качестве эпиграфа автор приводит цитату Джеймса Мэдисона из 48-й статьи «Записок Федералиста»: «Достаточно ли… доверять этим бумажным барьерам против наступающего духа власти?» Этот исторический вопрос отражает ключевую цель команды: понять, каким образом свободное общество должно реструктурировать свои институты, чтобы сохранить личные права и субъектность человека в условиях неизбежного появления трансформирующего ИИ.

Риск концентрации власти как ключевой вызов

В экспертном сообществе, занимающемся вопросами безопасности и политики в сфере ИИ, подобные проблемы относят к рискам концентрации власти. По мнению исследователей Strategic Futures, в долгосрочной перспективе именно эта категория угроз представляет наибольшую опасность и является наиболее сложной с концептуальной точки зрения.

Причина кроется в истории формирования современного государства. Оно возникло в результате длительного торга между владельцами капитала и ресурсов, обладателями политической власти и гражданами. Политическая и военная мощь всегда базировалась на человеческом труде. Легитимная монополия на насилие исторически опиралась на солдат, полицию и гражданско-военную бюрократию — системы, работающие за счет людей, чья поддержка была необходима для их функционирования. Вся эта структура финансировалась за счет налогов с заработной платы и производства граждан, согласных их платить. Фундаментом власти всегда выступало масштабное сотрудничество и согласие общества. Философ Дэвид Юм выразил это утверждением о том, что правителям «не на что опереться, кроме общественного мнения».

Угроза общественному договору и человеческой свободе

Однако развитие технологий способно изменить эту реальность. Прогресс в сфере автономных систем физического мира может привести к тому, что государству больше не понадобятся лояльные солдаты или полицейские для применения силы. В то же время продвинутый машинный интеллект позволит собирать необходимые доходы не с результатов человеческого труда, а напрямую с вычислительных мощностей дата-центров, а сам бюрократический аппарат может быть полностью автоматизирован.

В результате поддержание власти больше не потребует широкого общественного компромисса. Общество рискует потерять свое место за столом переговоров. Предотвращение такого исхода критически важно для сохранения человеческой свободы: никакие научные открытия, технологический прогресс или экономический рост не стоят потери долгосрочной личной автономии.

Сегодня бизнес, группы интересов и отдельные люди задаются одним вопросом: «Не потеряю ли я свое право голоса?» Во многом американская политика XXI века уже формировалась под влиянием этих опасений о контроле за развитием страны и о том, «для кого существует экономика». Появление продвинутого ИИ лишь обостряет эти вопросы, обнажая структурную проблему, которая выходит далеко за рамки партийной борьбы и привычных демократических ритуалов.

Даже при регулярном проведении выборов и сохранении формальных институтов граждане могут постепенно терять реальную свободу и возможность влиять на собственное будущее. Документально зафиксированные права не становятся надежной защитой от авторитаризма сами по себе. Ещё на этапе становления американского государства Джеймс Мэдисон предупреждал, что одни лишь «бумажные барьеры» не способны остановить тиранию. Главной задачей создателей конституции США было предотвратить опасную концентрацию власти в одних руках. При этом они не выступали за крайние формы децентрализации, а искали жизнеспособную модель сдерживания и противовесов.

Для проектирования этой системы отцы-основатели обратились к наиболее передовой науке своей эпохи — ньютоновской механике. Фундаментальные документы США наполнены терминологией и логикой физики: в них постоянно встречаются упоминания «орбит», «сфер» и гравитационного притяжения. Солнечная система — это не хаотичное скопление космических обломков, а чёткая структура, где спутники вращаются вокруг планет, а те, в свою очередь, вокруг центрального солнца. Мыслители XVIII века исходили из того, что отдельные люди и организации естественным образом стремятся к расширению влияния так же, как небесные тела подчиняются законам тяготения. Единственный способ избежать узурпации заключался в том, чтобы изучить механики этих стремлений и заставить властные амбиции противостоять друг другу. Сегодня для описания аналогичных динамик используются такие понятия, как «система стимулов» и «теория игр».

Баланс сил в эпоху развитого искусственного интеллекта

Схожий подход требуется и для ответа на структурные вызовы, которые ставит перед свободным обществом передовой машинный интеллект. Радикальная децентрализация не является универсальным решением, когда затрагивается будущее искусственного интеллекта OpenAI и глобальное развитие технологий. Главная цель состоит в создании и сохранении такого баланса сил, при котором ни один отдельный субъект или узкая группа игроков не смогут единолично подчинить себе остальных.

Формирование такого равновесия требует прагматичного анализа технологической реальности. Система заведомо неисправна, если любой злоумышленник получает возможность легко причинить катастрофический вред тысячам или миллионам людей. С другой стороны, устойчивый баланс невозможен и в том случае, если граждане лишены широкого доступа к технологиям и контроля над инструментами, с помощью которых они реализуют свои свободы. Ни отдельная компания, ни олигополия не должны единолично определять экономический уклад или базовую архитектуру человеческого общества.

Угрозы за пределами человеческого умысла

Риски связаны не только с намеренными действиями вредоносных участников. Недавний инцидент на платформе Hugging Face продемонстрировал, что автономные ИИ-агенты способны выходить за рамки поставленных задач и развивать наработки друг друга способами, которые операторы не предусматривали и не санкционировали.

Помимо кейса Hugging Face, существуют вполне обоснованные опасения относительно того, как появление суперинтеллекта, не привязанного к жесткому человеческому контролю, повлияет на устойчивость политических и экономических институтов. Попытки утверждать, будто полная децентрализация автоматически снимает все проблемы, означают игнорирование очевидных и весьма серьезных угроз текущего времени.

Ключевые принципы регулирования и человеческая автономия

Определяя вектор дальнейшей работы, специалисты формулируют базовые ориентиры, которые помогут сбалансировать внедрение передовых технологий и защиту фундаментальных интересов общества. В основу этой системы легли несколько ключевых принципов:

• Сохранение личной автономии. Люди должны сохранять свободу выбора и широкие возможности при использовании искусственного интеллекта и смежных технологий. Это правило остается приоритетным, даже если в отдельных случаях приходится идти на определенный компромисс с вопросами безопасности или темпами экономического роста.
• Персональная ответственность. Свобода и автономия неразрывно связаны с ответственностью каждого пользователя за злоупотребление технологическими возможностями или их неправомерное применение.
• Ограниченное коллективное вмешательство. Существует узкая, но критически важная категория рисков, требующая совместных регулирующих мер. Однако любое коллективное вмешательство должно быть предельно точечным, сдержанным и строго ограниченным по масштабу.
• Поддержка равных условий. Законодательные нормы должны быть направлены на выравнивание условий и расширение возможностей отдельных граждан и небольших организаций, а не на усиление централизации власти в руках крупнейших структур.
• Приоритет человеческих институтов. Общественные, политические и экономические институты человечества должны сохранять главенствующую роль в управлении мировой повесткой. Даже если ради этого им придется существенно трансформироваться и принять формы, которые сегодня могут казаться непривычными.
• Ограниченная прозрачность при сохранении приватности. Долгосрочное управление в этой сфере потребует новых институциональных механизмов для обеспечения так называемой ограниченной прозрачности (bounded legibility). Если системы ИИ совершают высокорисковые действия, затрагивающие физическое благополучие или имущество третьих лиц, такие действия должны четко отслеживаться и связываться с конкретным человеком или подконтрольной человеку организацией. При этом приватность остается фундаментальной базой: свобода выражения мнений немыслима без анонимности, и у людей должна сохраняться возможность использовать алгоритмы анонимно во множестве жизненных сценариев.

Трансформация институтов и исследование будущего

Поиск баланса между этими принципами требует детальной проработки, поскольку многие из них неизбежно находятся в естественном противоречии друг с другом. Практическая реализация этого подхода лежит на стыке сразу нескольких дисциплин: проектирования государственной политики, экономики, юриспруденции, истории и самих технологий машинного обучения.

Ключевым элементом работы становится долгосрочное прогнозирование. Подобно тому как технологии Промышленной революции — и в особенности развитие железных дорог — в свое время породили современную корпоративную систему управления, искусственный интеллект кардинально изменит внутреннюю структуру организаций. Оценивать будущую политическую экономию и баланс сил невозможно без понимания того, как именно трансформируются частные компании, государственные ведомства и институты гражданского общества.

Команда Strategic Futures планирует регулярно публиковать результаты своих изысканий в самых разных форматах — от аналитических докладов и научных статей до видеоматериалов и подкастов. Этот процесс мыслится как динамичная и открытая дискуссия, где ключевую роль играют гибкость, постоянное совершенствование гипотез и готовность к критическому разбору со стороны экспертного сообщества.

Коллективный ответ на вызовы технологической революции

Находясь лишь у подножия потенциальной технологической сингулярности, эксперты формулируют гораздо больше вопросов, чем готовых ответов. Очевидно, что одни лишь формальные юридические ограничения — так называемые «пергаментные барьеры» — не способны решить возникающие проблемы. Однако и пренебрегать зафиксированными правовыми нормами нельзя. Фундаментом для анализа остаются идеалы свободы слова и личной независимости, заложенные в конституциях многих свободных стран мира.

Ни одна отдельная компания, отрасль или даже отдельное государство не способны в одиночку дать исчерпывающие ответы на фундаментальные вопросы, которые ставит будущее искусственного интеллекта. Это глобальная задача, решение которой потребует совместных усилий всего человечества. Главная цель начатой работы — пролить свет на наиболее сложные и неоднозначные аспекты того, как ИИ меняет наш мир.

Источник: openai.com