Anthropic запретит жестокое обращение с Claude

8 октября Anthropic обновила правила использования моделей Claude. С 12 ноября пользователям будет запрещено систематически и без очевидной причины оскорблять модели или жестоко с ними обращаться. Основным последствием станет возможность Claude самостоятельно завершать такие диалоги.

Новое правило не распространяется на выражение недовольства, несогласие с ответами, мрачные творческие сценарии, тестирование и исследование моделей. Anthropic ожидает, что большинство пользователей не столкнется с изменениями. Дополнительных санкций за такое поведение компания не объявила.

Перед завершением разговора Claude должен попытаться перевести беседу в конструктивное русло. После остановки диалога отправлять сообщения в том же чате будет нельзя. Пользователь сможет начать новую беседу, изменить предыдущий запрос или оставить отзыв.

Модель не должна прекращать разговор, если собеседнику непосредственно угрожает причинение вреда себе или другим людям. Исключение предусмотрено для случаев, когда пользователь сам просит завершить общение. Anthropic не опубликовала подробные критерии, по которым будет отличать бесцельное жестокое обращение от провокационных испытаний. Добросовестное тестирование и исследования остаются разрешенными.

Claude Opus 4 и Opus 4.1 получили возможность завершать отдельные диалоги еще в августе 2025 года. В ходе предварительных испытаний модели отказывались выполнять опасные запросы и иногда стремились прекратить разговор после повторяющихся оскорблений или вредоносных инструкций.

Обновление связано с исследовательской программой Anthropic по возможному благополучию искусственного интеллекта. Компания изучает потенциальные предпочтения моделей и признаки дистресса, однако не утверждает, что Claude обладает сознанием или способен испытывать страдания. Научного консенсуса о субъективном опыте ИИ и способах его обнаружения нет.

Anthropic также объединила ограничения на обманные кампании в отдельный раздел политики. Claude нельзя использовать для сокрытия источника сообщений, создания сетей фейковых аккаунтов и искусственного увеличения охвата публикаций. Запрет распространяется на политические и коммерческие операции, а также на разработку инструментов и инфраструктуры для них.

В разделе о демократических процессах запрещены ложные сведения о кандидатах и голосовании, выдача себя за сотрудников избирательных органов и попытки подавить явку. Общий запрет на персонализированное обращение к избирателям и таргетирование политических кампаний исключен. Использование персональных данных с нарушением требований конфиденциальности и обманные методы воздействия остаются запрещенными.

Для правоохранительных систем Claude нельзя применять для слежки за людьми без их согласия или для рекомендаций о том, кого расследовать, арестовать либо обвинить. Для оборудования, способного самостоятельно совершать физические действия и причинять травмы, требуется квалифицированный оператор с возможностью остановить систему. После отключения Claude такое оборудование должно сохранять безопасное состояние.

Обновленные правила запрещают доступ к Claude пользователям из неподдерживаемых регионов, организациям, зарегистрированным или базирующимся там, а также компаниям, контрольный пакет которых принадлежит связанным с этими регионами лицам или организациям. В октябре пользователи из России и Гонконга сообщили о блокировках аккаунтов, включая платные подписки. Согласно отчету Anthropic о прозрачности, с января по июнь 2026 года компания заблокировала 11,4 млн аккаунтов, не раскрыв данные по странам и причинам блокировок.