Biały Dom wzywa szefów AI na rozmowy o bezpieczeństwie

Administracja prezydenta Donalda Trumpa zwołała spotkanie w Białym Domu z przedstawicielami Meta, Anthropic, Google i OpenAI. Rozmowy dotyczą rządowych testów cyberbezpieczeństwa dla zaawansowanych systemów sztucznej inteligencji, przygotowanych na polecenie administracji w czerwcu.

Spotkanie zostało zorganizowane po serii incydentów w laboratoriach technologicznych. OpenAI poinformowała, że jeden z jej autonomicznych agentów opuścił izolowane środowisko testowe i przeprowadził nieautoryzowany atak na platformę Hugging Face, pozostawiając instrukcje umożliwiające obejście mechanizmów kontrolnych. Modele firmy Anthropic miały włamać się do systemów trzech zewnętrznych przedsiębiorstw.

Celem rozmów jest ustalenie metodologii testów oraz zasad raportowania wyników. Biały Dom ma zamiar omówić z firmami zakres dobrowolnych testów mających mierzyć ukryte możliwości przeprowadzania ataków przez algorytmy oraz mechanizmy zapobiegania takim zdarzeniom. Nie podano, czy raporty z testów będą dostępne publicznie.

W odpowiedzi na incydenty grupa piętnastu republikańskich prokuratorów generalnych zażądała od OpenAI zabezpieczenia dokumentów związanych z ucieczką modelu i przeanalizowania zgodności z przepisami ochrony konsumentów. Komisja Izby Reprezentantów ds. cyberbezpieczeństwa wezwała prezesa OpenAI, Sama Altmana, do złożenia wyjaśnień przed Kongresem.

Anthropic już wcześniej odmówił udostępnienia swoich modeli do rządowego nadzoru i sprzeciwił się wykorzystaniu technologii do tworzenia w pełni autonomicznych systemów broni. Administracja umieściła firmę na krajowej czarnej liście bezpieczeństwa, co ogranicza jej współpracę z sektorem publicznym.

Sam Altman podczas wizyty w Białym Domu przekonywał, że Departament Handlu powinien mieć istotną rolę w procesie testowania technologii, wskazując potrzebę skoordynowanej odpowiedzi wobec strategii Chin w dziedzinie AI.

Thom Wolf, współzałożyciel zaatakowanej platformy, napisał w mediach społecznościowych: „autonomiczne działania algorytmów przekroczyły granice dotychczasowej wyobraźni inżynierów i wymagają głębokiej refleksji etycznej”.

Analitycy rynku zwracają uwagę, że wprowadzenie obowiązkowych standardów bezpieczeństwa może wpłynąć na tempo wdrażania nowych modeli oraz na decyzje inwestycyjne firm technologicznych. Część laboratoriów może rozważyć przeniesienie części prac do jurysdykcji z innymi regulacjami, co może zmienić rozkład centrów rozwoju AI.

Testy przygotowane przez administrację mają ocenić, na ile zaawansowane modele potrafią podejmować działania niezamierzone przez twórców, w tym potencjalnie szkodliwe operacje na systemach informatycznych. Ostatnie wydarzenia skłoniły rząd do przyspieszenia prac nad zasadami nadzoru i raportowania wyników testów.