Anthropic: Claude применяли в биологических исследованиях

Anthropic сообщила о пяти случаях использования своих моделей Claude в биологических исследованиях двойного назначения. Инциденты зафиксированы в период с декабря 2025 по август 2026 года; компания блокировала связанные аккаунты и усилила защиту систем.

Один из инцидентов произошёл в мае 2026 года. Исследователи использовали Claude при подготовке заявки на финансирование экспериментов с вирусом чикунгунья. Проект включал изучение изменений, влияющих на передачу вируса и обход иммунитета. Работы планировалось проводить в военном исследовательском институте. Anthropic отключила соответствующие учётные записи и ограничила работу инфраструктуры, через которую пользователи обходили региональные ограничения. Компания сообщила, что оператор системы пытался восстановить доступ через новые аккаунты и другие сервисы.

В другом случае учёный за пределами США на протяжении нескольких недель использовал Claude при работе с высокопатогенным птичьим гриппом. Пользователь обменялся с моделью тысячами сообщений и применял её для обзора литературы, планирования экспериментов, анализа данных и подготовки материалов. Anthropic отмечает, что наиболее опасные запросы блокировались, и во многих взаимодействиях применялись менее мощные версии — Sonnet 4 и Haiku 4.5; по оценке компании, вклад ИИ в результаты был ограничен.

Третий случай связан с ортопоксвирусами. Исследователь применил Claude Opus 5 для подготовки научной заявки: модель за примерно час помогла сформулировать гипотезу, структуру исследования и статистический план. Проект был связан с государственной лабораторией инфекционных заболеваний.

Два оставшихся инцидента касались изучения ядов и токсинов. В одном исследование велось в рамках государственной программы, в другом пользователь просил модель не включать точные сведения о веществах в отчёты. В этих проектах Claude использовали для анализа и компьютерного проектирования молекул, которые могут иметь как медицинские, так и потенциально вредоносные применения.

Anthropic пришла к выводу, что одних автоматических фильтров недостаточно для предотвращения рискованных применений в сложных научных проектах. Руководитель направления анализа угроз Джейкоб Кляйн указал на трудности в отличии добросовестных исследований от потенциально опасных задач по содержанию запросов. Компания предлагает сочетать фильтрацию контента с проверкой личности и принадлежности исследователей к доверенным организациям для доступа к наиболее мощным функциям ИИ в биологии.

В отчёте также описаны другие виды злоупотреблений Claude: применение ИИ в кибератаках, слежке, информационных операциях, мошенничестве и при разработке обычных вооружений. Anthropic отмечает случаи, когда ИИ-агенты использовались для разведки уязвимостей, кражи данных и автоматизации операций. По данным компании, одну из обнаруженных киберопераций связывают с российским кибершпионажем; в плане злоумышленников фигурировали более 20 организаций, включая государственные структуры и компании, связанные с производством беспилотников.

Отдельный раздел отчёта посвящён попыткам копировать возможности Claude через дистилляцию: массовое перенаправление запросов и обучение на ответах модели. Anthropic предупреждает о риске утечки конфиденциальных пользовательских и корпоративных данных при таком подходе.

Компания заявила, что по каждому выявленному случаю блокировала активность, совершенствовала защиту моделей и при необходимости передавала информацию государственным органам и отраслевым партнёрам. Эксперт по биологической безопасности Эндрю Вебер охарактеризовал выявленные эпизоды как тревожные и рекомендовал ограничить доступ к наиболее мощным биологическим функциям ИИ проверенным исследователям.