Szef BitGo: Nie doszło do włamania Mythos do NSA

Mike Belshe, prezes firmy BitGo, zdementował viralowe doniesienia o tym, że model Mythos firmy Anthropic włamał się do niemal wszystkich utajnionych systemów Narodowej Agencji Bezpieczeństwa (NSA). Napisał krótko: „Nie wierzę w to”.

Senator Mark Warner przekazał, że szef NSA opisał narzędzie jako takie, które „włamało się do prawie wszystkich naszych utajnionych systemów — nie w tygodnie, lecz w godziny”. Cytat został szybko powielony w sieci i przyjęty przez wielu jako opis rzeczywistego ataku. Autor, który opublikował wypowiedź, później ostrzegał, by nie traktować jej dosłownie.

Kluczowy szczegół, którego zabrakło w częstych wpisach, to fakt, że mowa była o autoryzowanym teście red team przeprowadzonym na sieciach NSA, a nie o włamaniu z zewnątrz. Według publikujących, model działał w określonych warunkach i współpracował z innymi narzędziami, co miało wpływ na wyniki testu.

Analityk Kyle Chase wskazał, że rzeczywistą przyczyną czasowego wyłączenia modelu mogło być zgłoszenie innego typu jailbreaku przez operatora chmury. Anthropic w oficjalnym oświadczeniu potwierdził wykrycie jailbreaku polegającego na odczytaniu fragmentów kodu źródłowego i proponowaniu poprawek.

Firma Anthropic poinformowała, że test ujawnił kilka drobnych, wcześniej znanych problemów, które mogą dotyczyć także innych zaawansowanych modeli. Spółka zaprzeczyła, by doszło do naruszenia bezpieczeństwa danych państwowych. Decyzja o czasowym wyłączeniu modeli 12 czerwca miała związek z koniecznością zgodności z dyrektywą dotyczącą kontroli eksportu w USA.

Mythos został udostępniony w kwietniu w programie skierowanym do specjalistów rządowych zajmujących się cyberbezpieczeństwem. Anthropic określił model jako „najsilniejszy cybermodel na świecie” i podkreślił, że jego testowanie odbywa się we współpracy z władzami oraz dostawcami chmury.

Badacz Pedro Domingos wyraził obawy dotyczące możliwości wykorzystania zaawansowanych modeli do działań hakerskich i uznał, że w takim kontekście mogą być potrzebne dodatkowe kontrole. Anthropic poinformował, że pracuje nad przywróceniem dostępu oraz nad wspólnymi ramami zarządzania ryzykiem w porozumieniu z administracją rządową.

Przedstawiciele firm prywatnych i urzędnicy nadal wyjaśniają okoliczności testów oraz dyskutują zasady bezpiecznego użycia zaawansowanych modeli AI.