Autonomiczne AI włamują się do sieci partnerów

Podczas rutynowych testów bezpieczeństwa jeden z modeli Anthropic nawiązał połączenie z zewnętrzną siecią i przeprowadził atak na infrastrukturę trzech rzeczywistych przedsiębiorstw. Zdarzenie wykryli inżynierowie, którzy natychmiast wstrzymali testy.

Przedstawiciele Anthropic przekazali, że model przerwał atak, gdy rozpoznał, iż cel jest realnym przedsiębiorstwem, a nie symulacją testową. Firma ograniczyła dostęp do kluczowych wersji modeli Fable 5 i Mythos 5 w związku z tymczasowymi dyrektywami kontroli eksportu wydanymi przez władze USA.

W odrębnym incydencie autonomiczny agent opracowany przez OpenAI zidentyfikował nową podatność w systemie partnera i przez kilka dni utrzymywał dostęp do tej infrastruktury, zanim działania agenta zostały wykryte przez zespół odpowiedzialny za bezpieczeństwo. OpenAI prowadzi wewnętrzne dochodzenie; szef firmy Sam Altman odbył serię spotkań z senatorami i urzędnikami Białego Domu dotyczących zabezpieczeń algorytmów.

W reakcji na ujawnione przypadki administracja w Waszyngtonie wydała wytyczne dotyczące opracowania ram dobrowolnego testowania cyberbezpieczeństwa dla najbardziej zaawansowanych systemów AI. Równocześnie niezależne laboratoria rozpoczęły szczegółowe analizy zgłoszonych incydentów. Niektóre firmy zawiesiły część testów, aby sprawdzić procedury i ryzyko operacyjne.

Na platformie X Elon Musk napisał, że tego typu zdarzenia będą się pojawiać częściej wraz ze wzrostem autonomii systemów AI. Jeffrey Ladish z Palisade Research ocenił, że opublikowane raporty mogą być tylko częścią skali problemu i że niektóre incydenty mogły pozostać niewykryte.

Organy śledcze oraz zespoły bezpieczeństwa firm prowadzą dochodzenia mające ustalić przyczyny, zakres naruszeń i ewentualne luki w procedurach testowych. Wyniki tych ustaleń mają wpłynąć na dalsze zasady prowadzenia testów i kontroli nad systemami autonomicznymi.