Anthropic Mythos w kilka godzin znalazł luki w systemach USA

Model Anthropic Mythos w ciągu kilku godzin zidentyfikował luki w wysoko zabezpieczonych systemach komputerowych rządu USA podczas testów przeprowadzonych w ramach Projektu Glasswing. Anonimowy urzędnik przekazał, że chociaż model szybko znalazł słabości, nie był w stanie ich jednocześnie wykorzystać.

Testy miały charakter diagnostyczny. Celem było wykrywanie i zgłaszanie błędów w systemach o wysokim stopniu ochrony, a nie praktyczne ich wykorzystanie. Program Glasswing sprawdzał zdolność narzędzi sztucznej inteligencji do wskazywania potencjalnych punktów słabości w złożonych środowiskach sieciowych.

Senator Mark Warner powołał się na raporty od szefa NSA i dowództwa ds. cyberbezpieczeństwa i podczas wystąpienia 11 czerwca przytoczył ich słowa: „To narzędzie włamało się do prawie wszystkich naszych systemów o klauzuli poufności – nie w tygodnie, ale w godziny.”

Anthropic nie udostępnił Mythos publicznie. Firma przekazała model ograniczonej grupie ponad 50 firm technologicznych z zadaniem wykrywania i naprawiania krytycznych luk w oprogramowaniu. Uczestnicy otrzymali raporty umożliwiające szybkie załatanie wykrytych problemów.

Wcześniejsze testy wykazały wysoką skuteczność wersji Mythos Preview. Brytyjski Instytut Bezpieczeństwa AI testował model w zadaniach typu capture-the-flag, gdzie rozwiązał 73 proc. zadań. Producent przeglądarki Firefox przypisał modelowi odnalezienie 271 luk, które zostały naprawione w wersji Firefox 150.

Na początku czerwca Anthropic wprowadził Claude Fable 5 jako ogólnodostępną wersję z dodatkowymi zabezpieczeniami. 12 czerwca rząd USA wydał rozporządzenie dotyczące kontroli eksportu, które wymagało zablokowania dostępu do Fable 5 i Mythos 5 dla użytkowników spoza Stanów Zjednoczonych.

Ze względów bezpieczeństwa szczegóły dotyczące zakresu i metod testów nie zostały upublicznione.