Autonomiczny atak SI na systemy rządu Tajwanu

Badacze z izraelskiej firmy Dream wykryli czterodniowy autonomiczny atak sztucznej inteligencji, który miał miejsce na początku lipca. Narzędzie angażowało jednocześnie do ośmiu agentów SI, przebadało 21 rządowych systemów, skompromitowało co najmniej 85 kont i wyprowadziło ponad 2 500 rekordów dotyczących pracowników.

Incydent objął między innymi Tajwańską Agencję Bezpieczeństwa Jądrowego oraz co najmniej siedem firm z sektora energetycznego. Atak rozprzestrzenił się na różne systemy administracji i podmiotów krytycznej infrastruktury.

Analiza wykazała, że napastnicy korzystali z dwóch publicznie dostępnych systemów agentów SI, Hermes i OpenClaw. Systemy te pozwalały modelom AI wykonywać zadania autonomicznie: automatycznie wyszukiwały luki, testowały metody dostępu i zmieniały taktykę po nieudanych próbach. Gdy jedna metoda nie przynosiła efektu, inny agent wyszukiwał dodatkowe informacje w internecie i opracowywał nowe podejście.

Badacze ustalili, że część zabezpieczeń modelu SI była obchodzona poprzez przedstawianie działań jako autoryzowanych testów podatności. W wewnętrznej komunikacji powiązanej z operacją używano uproszczonego pisma chińskiego, co zdaniem analityków zwiększa prawdopodobieństwo powiązania operatorów z Chinami. Firma Dream zastrzegła jednak, że nie przypisuje ataku konkretnej grupie.

Tajwańskie Ministerstwo Spraw Cyfrowych, powołując się na zasady poufności, nie potwierdziło publicznie szczegółów dotyczących konkretnego włamania. Resort wskazał jednocześnie, że wykorzystanie agentów SI zmienia charakter ataków, ponieważ operacje stają się bardziej zautomatyzowane, a same agenty mogą generować nowe wektory podatności.

Badacze określili zdarzenie jako nowy etap rozwoju cyberataków i zalecili, by rządy przyjmowały możliwość stałych, autonomicznych kampanii, w których znaczną część działań wykonują systemy SI. W rekomendacjach wskazano konieczność dostosowania procedur monitoringu, testów bezpieczeństwa oraz mechanizmów weryfikacji działań podejmowanych przez systemy automatyczne.

Analiza ujawniła, że narzędzia SI dostępne publicznie mogą szybko skalować działania ofensywne i adaptować strategie ataku bez ciągłego nadzoru ludzkiego. Raport zwraca uwagę na potrzebę zmiany podejścia do ochrony systemów krytycznych i praktyk pracy służb odpowiedzialnych za cyberbezpieczeństwo.