Pentagon: AI Mythos włamał się do systemów NSA

Podczas przesłuchania w Senacie senator Mark Warner powołał się na przekaz generała Joshuy Rudda, dyrektora NSA i szefa US Cyber Command, że w autoryzowanych testach model Mythos uzyskał dostęp do niemal wszystkich tajnych systemów NSA w ciągu kilku godzin.

W tym samym dniu Amazon wykrył odrębny jailbreak w modelach Anthropic. Administracja prezydenta Donalda Trumpa nakazała ograniczenie zagranicznego dostępu do modeli Mythos i Fable. W odpowiedzi Anthropic zadecydował o czasowym wyłączeniu obu systemów.

Źródła związane z projektem informują, że inżynierowie Anthropic pracowali bezpośrednio w siedzibie NSA nad dostosowaniem modelu do zadań związanych z cyberbezpieczeństwem, wykrywaniem podatności oraz operacjami ofensywnymi. Nieoficjalne materiały wskazują, że model był używany do wspierania testów penetracyjnych sieci potencjalnych przeciwników, w tym Chin i Iranu.

Wokół zdarzenia funkcjonują dwie główne wersje. Pierwsza opisuje wyniki testów jako na tyle poważne, że podjęto natychmiastowe kroki ograniczające dostęp do modeli i doprowadzające do ich wyłączenia. Druga przedstawia stanowisko Anthropic, według którego wykryte obejścia były stosunkowo niewielkie i podobne do problemów występujących w innych zaawansowanych modelach AI; w tej wersji reakcja władz została oceniona jako zbyt szeroka.

Anthropic pozostawał w sporze z Departamentem Obrony USA o klasyfikację firmy jako potencjalnego ryzyka dla łańcucha dostaw; ta sprawa mogłaby wpływać na zakres współpracy z instytucjami rządowymi. Współpraca z NSA trwała do czasu ujawnienia obecnych problemów.

Trwają oficjalne dochodzenia i przeglądy bezpieczeństwa mające ustalić szczegóły testów, mechanizmy obejścia zabezpieczeń oraz przyczyny decyzji o wyłączeniu modeli. Pentagon kontynuuje prace nad wykorzystaniem narzędzi AI w monitorowaniu infrastruktury krytycznej, analizie zagrożeń i działaniach cybernetycznych.