Anthropic усиливает меры защиты выборов в преддверии промежуточного голосования в США

Компания Anthropic обнародовала детали расширенных защитных механизмов, которые призваны обеспечить безопасность и прозрачность предстоящих промежуточных выборов в США. В рамках инициативы разработчики представили анализ сотен тысяч диалогов с ИИ-помощником Claude, а также анонсировали интеграцию официальных данных избирательных комиссий.

Опубликованный отчет опирается на случайную выборку из 250 тысяч потребительских диалогов американских пользователей с Claude.ai, проанализированных с помощью специализированных инструментов конфиденциальности. Исследование показало, что темы, связанные с политикой, общественной политикой и социальными вопросами, составили около 5,75% всех взаимодействий, тогда как выборы и голосование напрямую затрагивались примерно в 0,51% случаев.

Характер политических запросов пользователей

Статистика платформы показывает, что прямые вопросы о том, за кого именно стоит отдать голос, фиксировались лишь в 0,01% диалогов. Нарушения установленных правил информационной безопасности выборов были зафиксированы примерно в 0,002% проанализированных сессий. Большинство обращений носили сугубо информационный характер: граждане изучали биографии кандидатов, готовили учебные материалы, составляли проекты документов и сопоставляли аргументы сторон по спорным законопроектам.

Интеграция официальных данных и результатов голосования

Платформа внедрила функционал по предоставлению достоверной информации о голосовании. Если ранее система выводила баннеры со ссылками на некоммерческие ресурсы вроде TurboVote, то теперь интерфейс интегрирует официальные данные напрямую в диалоговое окно. Пользователи могут узнать адрес своего избирательного участка, требования к документам и график работы без необходимости перенаправления на сторонние сайты.

Кроме того, в дни голосования и в последующий период чат-бот начнет отображать актуальные официальные сводки подсчета голосов. Эти сведения базируются на верифицированных базах данных, собираемых из региональных и федеральных источников.

Оценка политической предвзятости и независимый аудит

Перед каждым релизом новых версий моделей разработчики проводят тестирование на политическую нейтральность. Согласно внутренним отчетам, модификации Claude получили высокие оценки в тестах на сбалансированность подходов.

Внешний аудит свободы выражения мнений

Три независимые исследовательские структуры проанализировали подходы чат-бота к обработке спорных тем, используя собственные методики:

• Центр The Future of Free Speech при Университете Вандербильта протестировал систему на сотнях запросов о резонансных проблемах.
• Организация Foundation for American Innovation сопоставила ответы на идентичные запросы с правого и левого политических флангов.
• Проект Collective Intelligence Project опросил более двух тысяч респондентов из разных стран для выработки общих критериев оценки ответов.

Проведенные проверки выявили как сильные стороны моделей, так и определенные недостатки. В частности, независимые наблюдатели зафиксировали случаи, когда ИИ добавлял в аргументацию избыточные оговорки или смягчал позиции консервативного спектра. Разработчики заявили, что уже используют эти выводы для точной настройки алгоритмов вынесения оценок и работы с прямыми вопросами.

Правила использования сервиса и руководство для кампаний

Обновленная политика использования платформы накладывает прямой запрет на введение избирателей в заблуждение, искусственное подавление явки, выдачу себя за официальных лиц и распространение фейков о кандидатах. Новые требования официально вступили в силу в ноябре.

Допустимые и запрещенные сценарии для предвыборных штабов

Специально подготовленное руководство для участников избирательных кампаний определяет границы допустимого применения технологий. Штабам разрешено использовать языковые модели для:

• Подготовки пресс-релизов и проектов писем для сбора пожертвований;
• Анализа статистических данных по явке избирателей и участкам;
• Организации и сортировки обращений граждан;
• Адаптации информационных материалов для людей с ограниченными возможностями здоровья и перевода на другие языки.

В то же время под строгим запретом находятся создание фальшивых учетных записей, имитирующих реальных людей, массовая генерация комментариев для искусственного завышения показателей вовлеченности и публикация недостоверных данных о процедуре голосования.

Стресс-тестирование систем защиты и противодействие угрозам

Для проверки устойчивости системы к сложным сценариям вмешательства компания объединила усилия с независимыми организациями Institute for Strategic Dialogue и McCain Institute. Эксперты имитировали попытки дезинформации в странах, где проходят крупные государственные выборы.

Тестирование показало, что хотя модель эффективно отклоняет прямые вредоносные запросы, многоступенчатые кампании, разделенные на мелкие безопасные шаги, могут обходить базовые барьеры. На основе этих данных разработчики внедрили улучшенные классификаторы для выявления комплексных схем злоупотреблений, включая создание сетей фальшивых новостных ресурсов и попытки вмешательства зарубежных акторов.

В рамках мер принудительного характера компания заблокировала ряд учетных записей, задействованных в операциях влияния, материалы которых ориентировались на продвижение определенных геополитических нарративов. Представители компании подчеркивают, что работа по выявлению угроз носит постоянный характер и распространяется на электоральные процессы по всему миру.