Anthropic: AI mogła wspierać badania nad bronią biologiczną

Anthropic opublikowało 154‑stronicowy raport opisujący przypadki, w których jego modele sztucznej inteligencji mogły być użyte do badań o potencjalnym zastosowaniu w broni biologicznej. Firma opisuje odrzucenia wniosków i działania bezpieczeństwa podjęte wobec podejrzanych przypadków.

W raporcie jednym z opisanych wniosków był projekt badawczy dotyczący chikunguny — wirusa przenoszonego przez komary, powodującego przewlekłe bóle i bez znanego leku. Wniosek napisali naukowcy cywilni, a planowane prace miały się odbywać w instytucie o profilu wojskowym. Dokumentacja wniosku obejmowała metody mające ułatwić rozprzestrzenianie wirusa i unikanie odpowiedzi immunologicznej. System bezpieczeństwa Anthropic wykrył i odrzucił zapytania związane z tym projektem.

Firma opisuje też próbę obejścia filtrów: według raportu operator, którego zapytania zostały zablokowane, wrócił kilka dni później, a odrzucone polecenia miały być przekierowane do konkurencyjnego modelu AI. Claude miał pomóc w napisaniu kodu rezerwowego rozwiązania, które miało omijać odmowy.

Anthropic informuje, że zablokowało i zbanowało powiązane konta, ale nie ujawniło nazw laboratoriów ani nie wniosło formalnych zarzutów. Raport stwierdza brak dowodów na zły zamiar autorów wniosków i wskazuje, że ujawnienie ich tożsamości mogłoby narazić ich na niebezpieczeństwo.

W 30‑dniowym przeglądzie powiązanych z państwami instytucji firma wykryła 35 wysiłków badawczych związanych z biologią. W jednym opisie użytkownik sformułował wniosek o grant dotyczący ospy z rodziny Opus 5 w czasie jednej godziny. Raport zawiera także przypadki użycia modelu do śledzenia dysydentów.

Autorzy raportu podkreślają problem podwójnego zastosowania wiedzy biologicznej: klasyfikatory oceniają treść zapytań, a nie intencje użytkownika, co utrudnia rozróżnienie badań cywilnych od potencjalnie szkodliwych aplikacji. W jednym z opisanych przypadków badacz zajmujący się ptasią grypą został przekierowany do słabszych modeli, a udzielona mu pomoc została oceniona jako głównie techniczna.

W poście opublikowanym przez firmę pojawił się cytat: „We disrupted every operation in the report…”. Raport Anthropic opisuje pięć przypadków związanych z biologią i dokumentuje działania firmy mające na celu wykrywanie i powstrzymywanie prób nadużyć, jednocześnie nie podając personaliów ani nazw instytucji.

W odpowiedzi na rosnące obawy legislatorzy w Waszyngtonie w lipcu zgłosili projekt ustawy AI Kill Switch Act autorstwa przedstawicieli Teda Lieu i Nathaniela Morana, który nakłada na twórców systemów AI obowiązek zachowania możliwości ich wyłączenia.