Мой блог
Anthropic обновила политику использования нейросетей Claude
политика использования Anthropic — Компания Anthropic представила ежегодное обновление политики использования своих ИИ-продуктов на 2026 год, которое объединяет правила против вводящих в заблуждение кампаний, вводит запрет на жестокое обращение с моделями, а также уточняет требования к высокорисковым сценариям. Новая редакция документа вступает в силу 12 ноября 2026 года.
Представители компании пояснили, что большая часть правок направлена на детализацию уже действующих норм. Пересмотр правил обусловлен тем, что за последний год ассистент Claude выполнял всё более масштабные и самостоятельные задачи. Разработчики учли отзывы пользователей, а также паттерны злоупотреблений в сфере влияния, разработки вооружений и систем наблюдения, которые были зафиксированы в аналитическом отчете за сентябрь 2026 года.
Действие Acceptable Use Policy распространяется на каждого, кто отправляет запросы к продуктам и сервисам компании, включая доступ через авторизованных реселлеров. Документ структурирован по универсальным стандартам использования, требованиям к зонам повышенного риска и рекомендациям для специализированных сценариев, таких как потребительские чат-боты, продукты для несовершеннолетних и серверы Model Context Protocol. За соблюдением правил следит команда Safeguards Team, которая может ограничивать скорость работы, приостанавливать или прекращать доступ при выявлении нарушений.
Борьба с дезинформацией и защита демократических процессов
В компании зафиксировали случаи, когда государственные СМИ, пропагандистские структуры и коммерческие фирмы использовали Claude для создания сетей фальшивых аккаунтов и поддельных новостных сайтов. Подобная активность запрещалась и ранее, однако соответствующие ограничения были разрознены по разделам об избирательных процессах, мошенничестве, конфиденциальности и дезинформации. Теперь эти нормы объединены в отдельный блок, запрещающий любые вводящие в заблуждение кампании и искусственную активность.
Новый раздел охватывает попытки сокрыть истинного автора сообщений, масштабирование контента с помощью фиктивных профилей, а также разработку инструментов для проведения масштабных кампаний влияния. Избирательный блок переименован в требование не подрывать демократические процессы. Он прямо запрещает применять Claude для обмана избирателей, дестабилизации выборов, публикации ложных сведений о кандидатах или процедуре голосования, выдачи себя за официальных лиц и снижения явки.
При этом разработчики убрали тотальный запрет на персонализированный таргетинг политической рекламы и агитации. Прежняя норма ограничивала полезную гражданскую деятельность, такую как подготовка некоммерческими организациями материалов для избирателей на разных языках или отправка официальных уведомлений об исправлении бюллетеней. Применение уловок, обмана или неправомерное использование персональных данных избирателей по-прежнему пресекается в рамках разделов о конфиденциальности и дезинформации.
Ограничения для оружия, систем наблюдения и правопорядка
Специалисты зафиксировали попытки задействовать нейросети для проектирования программного обеспечения наведения и управления вооружениями. Обновленный раздел по оружейной тематике прямо указывает, что запреты распространяются на софт и компоненты, обеспечивающие функционирование оружия, а также на задачи вроде управления беспилотниками и автономными транспортными средствами.
Переписанный блок о слежке и уголовном правосудии запрещает отслеживание людей без их согласия — как в реальном времени, так и посредством анализа ранее собранных массивов данных. Модели запрещено привлекать к вынесению рекомендаций о том, кого именно следует расследовать, арестовывать или обвинять в рамках правоохранительной деятельности, а также использовать для создания специализированного софта для слежки. В отчете компании отмечалось участившееся применение искусственного интеллекта для выявления политических диссидентов, поэтому изменения призваны сделать текущую практику правоприменения более прозрачной. При этом разрешенными остаются законные сценарии, такие как мониторинг мошенничества, модерация контента, журналистика и юридические исследования при условии согласия участников.
Высокорисковые сценарии и контроль оборудования
Если продукты компании задействованы в сферах, способных повлиять на здоровье, юридические права, финансовое положение, средства к существованию или доступ граждан к базовым услугам, политика предписывает обязательное участие квалифицированного оператора. Этот человек должен обладать полномочиями проверять и при необходимости корректировать рекомендации модели, а конечный пользователь обязан быть проинформирован об использовании ИИ.
После запуска исследовательского превью Model Hardware Standard в документ добавлены новые требования для моделей, сопряженных с аппаратными устройствами, которые способны совершать автономные физические действия и наносить травмы. Квалифицированный оператор должен иметь возможность наблюдать за таким оборудованием и при необходимости экстренно остановить его, а сама система обязана переходить в безопасное состояние при потере связи с нейросетью.
Правила против жестокого обращения с моделями
Обновление дополняет правила запретом на систематическое и беспричинное оскорбительное или жестокое поведение по отношению к моделям. Разработчики подчеркивают, что эта норма рассчитана только на крайние ситуации, когда пользователи намеренно проявляют жестокость без какой-либо цели. Обычное пользовательское разочарование, рабочие споры, мрачные творческие темы или тестирование софта под этот запрет не подпадают.
Новое правило связано с функцией, внедренной в 2025 году. Согласно августовскому исследовательскому отчету компании, модели Claude Opus получили способность самостоятельно завершать диалоги в потребительских интерфейсах в редких случаях агрессивного или токсичного поведения пользователей. Искусственный интеллект применяет эту опцию исключительно как крайнюю меру, когда многократные попытки сменить тему не помогли или пользователь сам потребовал прекратить беседу. В таких случаях отправка новых сообщений в текущем чате блокируется, однако другие диалоги пользователя остаются доступными, а прежние реплики можно отредактировать.
Уточнение географических ограничений
В документе также детализирована политика в отношении поддерживаемых регионов, ужесточенная в 2025 году для компаний, контрольный пакет акций которых принадлежит структурам из неподдерживаемых юрисдикций. Поясняется, что использование моделей запрещено лицам, находящимся на таких территориях физически, организациям, зарегистрированным там же, а также юридическим лицам, контролируемым резидентами этих регионов. Компания намерена продолжать корректировку свода правил по мере развития технологий и появления новых рисков.
