AI prawie sprowokowało incydent USA–Chiny, myśliwce poderwane
Wiosną amerykańskie dowództwo niemal przechwyciło chiński statek po raporcie o częściach broni jądrowej; operację wstrzymano, gdy wykryto, że raport wygenerowała AI i był fałszywy.
Wiosną tego roku dowództwo amerykańskich sił przygotowywało się do przechwycenia chińskiego statku w rejonie Bliskiego Wschodu po otrzymaniu raportu twierdzącego, że jednostka przewoziła elementy systemu broni jądrowej. W związku z tym wydano rozkazy przygotowawcze i skoordynowano działania lotnictwa mające wesprzeć planowane przechwycenie.
Autorem raportu był analityk przypisany do dowództwa operacji specjalnych US Army. Do przygotowania dokumentu analityk użył narzędzia opartego na sztucznej inteligencji, wprowadzając do niego dane wywiadowcze przekazane przez dowództwo operacyjne sił USA na Pacyfiku oraz informacje pochodzące z publicznych źródeł. System AI połączył te dane i błędnie zidentyfikował ładunek statku jako elementy związane z bronią jądrową.
Podczas ponownej weryfikacji przełożeni zauważyli ślady wskazujące na użycie narzędzia generatywnego oraz nieścisłości w treści raportu. Szczegółowa analiza wykazała, że dokument zawierał fałszywe informacje i nie istniało rzeczywiste zagrożenie związane z ładunkiem statku. Operację wstrzymano przed przystąpieniem do przechwycenia.
Nie ustalono, jakie dokładnie oprogramowanie zostało użyte ani czy był to chatbot dostępny publicznie, czy system przeznaczony wyłącznie dla personelu wojskowego. W raporcie połączono otwarte źródła z przekazanymi informacjami tajnymi, co doprowadziło do zniekształcenia oceny sytuacji.
Wstrzymanie działań zapobiegło eskalacji w terenie. Przechwycenie statku przez siły amerykańskie w tej strefie mogło zostać odebrane jako prowokacja, zważywszy na napięte relacje między USA a Chinami.
W tle pozostają pytania o zasady użycia narzędzi opartych na sztucznej inteligencji w jednostkach wojskowych, zakres dostępu modeli do wrażliwych informacji oraz procedury walidacji raportów wywiadowczych przed podjęciem działań operacyjnych.
Treści publikowane na GNcrypto mają wyłącznie charakter informacyjny i nie stanowią porady finansowej. Dokładamy starań, aby informacje były rzetelne i aktualne, jednak nie gwarantujemy ich pełnej poprawności, kompletności ani niezawodności. GNcrypto nie ponosi odpowiedzialności za ewentualne błędy, pominięcia ani straty finansowe wynikające z polegania na tych treściach. Wszystkie działania podejmujesz na własne ryzyko. Zawsze prowadź własne badania i korzystaj z pomocy profesjonalistów. Szczegóły znajdziesz w naszych Warunkach, Polityce prywatności i Zastrzeżeniach.
Artykuły tego autora
