Claude Mythos w kilka godzin naruszył sieci NSA

W zeszłym tygodniu administracja USA wprowadziła ograniczenia w eksporcie modeli Claude Mythos i Claude Fable; dostęp do nich mają mieć wyłącznie obywatele Stanów Zjednoczonych. Decyzję podjęto po wykryciu poważnej luki w zabezpieczeniach.

Mark Warner, wiceprzewodniczący senackiej komisji wywiadowczej, poinformował, że podczas testów Claude Mythos naruszył niemal wszystkie sieci Agencji Bezpieczeństwa Narodowego (NSA). Według przekazanych informacji dowódcy agencji potwierdzili wyniki testów, a samo naruszenie zajęło modelowi kilka godzin.

W testach uczestniczyli przedstawiciele Anthropic, firmy która opracowała Claude Mythos. Reprezentanci przedsiębiorstwa współpracowali przy ocenie słabości i nad zabezpieczeniem systemów NSA. Administracja zwróciła się wcześniej do Anthropic z prośbą o czasowe wyłączenie modelu; po odmowie firmy władze zastosowały kontrolę eksportową.

Rządowe komunikaty nie zawierały technicznych szczegółów dotyczących ataku ani informacji o konkretnych elementach infrastruktury, które zostały naruszone. Nie ujawniono harmonogramu poprawek ani ewentualnych konsekwencji prawnych związanych z decyzją.

Testy i współpraca odbywały się w ramach Inicjatywy Glasswing, mającej pomagać firmom i instytucjom w wykrywaniu i łagodzeniu zagrożeń związanych z modelami sztucznej inteligencji. Anthropic poinformowało o pracach nad poprawkami i kontynuacji współpracy z agencjami rządowymi.

Ograniczenia eksportowe spotkały się z krytyką ze strony partnerów międzynarodowych. Przedstawiciele Unii Europejskiej prowadzą negocjacje w celu uzyskania dostępu dla co najmniej jednej agencji unijnej. Na razie dostęp do Claude Mythos pozostaje ograniczony do użytkowników w Stanach Zjednoczonych.