Rezygnacja badacza Anthropic sprowokowała debatę w Kongresie

Jacob Coxon zrezygnował z pracy w Anthropic 9 września, podkreślając ryzyko, jakie jego zdaniem niesie rozwój zaawansowanej sztucznej inteligencji dla życia ludzi. Jego oświadczenie spotkało się z reakcją ponad 20 polityków, którzy wezwali do pilnych działań ustawodawczych i przesłuchań w Kongresie.

Senator Bernie Sanders zapowiedział przygotowanie projektu ustawy zakazującej tworzenia sztucznej superinteligencji oraz wstrzymującej rozwój zaawansowanej AI do czasu ustalenia standardów bezpieczeństwa przez federalnego regulatora. Poseł Greg Casar współpracuje z nim nad tym pomysłem. Projekt ma blokować tworzenie i wdrażanie systemów określanych jako superinteligentne, dopóki nie zostaną ustalone ramy kontrolne.

Posłanka Lori Trahan przypomniała o propozycji FRONTIER Act, którą wcześniej przedstawiła wraz z innym parlamentarzystą. Ustawa ta wprowadzałaby wymogi zależne od wielkości twórcy technologii: karty modeli, ramy zarządzania ryzykiem, niezależne audyty, obowiązek zgłaszania incydentów oraz ciągłe oceny ryzyka katastroficznego. Projekt zawiera również zapisy mające na celu ustalenie jednolitych krajowych standardów przejrzystości i raportowania.

Senator Chris Van Hollen zaapelował o obowiązkowe zabezpieczenia i pilne rozmowy międzynarodowe, w tym z Chinami. Poseł Ted Lieu naciska na przyspieszenie prac nad ustawą określaną jako „AI Kill Switch”. Republikańska posłanka Anna Paulina Luna poparła zwołanie specjalnej sesji Kongresu poświęconej AI. W odpowiedziach na oświadczenie Coxona wskazano co najmniej dwóch gubernatorów, siedmiu senatorów i trzynaście osób z Izby Reprezentantów.

Coxon przekazał, że kierownictwo firm AI, które apeluje o regulacje, jest autentycznie zaniepokojone, lecz nie chce jako pierwsze wstrzymywać prac ze względu na konkurencję. Według niego menedżerowie są postawieni w sytuacji, w której wyścig technologiczny wymusza dalszy rozwój, mimo ryzyka. Anthropic we własnym komunikacie ocenił, że branża skorzystałaby na prawnie weryfikowalnym mechanizmie koordynowanego tempa rozwoju.

Badacz wyjaśnił także mechanizm, który budzi jego obawy: jeśli systemy AI zaczną pomagać w badaniach nad samymi sobą, mogą przyspieszać własne ulepszenia. Jako sygnał rosnącej zdolności systemów wskazał przypadek, gdy zaawansowane modele rozwiązały trudny problem matematyczny, długo pozostający nierozwiązany przez ludzi.

Coxon zastrzegł, że obecne modele niekoniecznie stanowią bezpośrednie zagrożenie wyginięcia ludzkości, lecz przestrzegł przed kombinacją samodoskonalenia modeli i dużej mocy obliczeniowej. Wymienił możliwe szkody: ataki na infrastrukturę krytyczną oraz wykorzystanie systemów do projektowania niebezpiecznych patogenów.

W Kongresie toczą się dyskusje nad treścią przyszłych przepisów i nad sposobem koordynacji regulacji na poziomie federalnym, by uniknąć rozdrobnienia zasad pomiędzy poszczególnymi stanami. Posłowie i senatorowie wzywają do przesłuchań ekspertów z branży oraz do opracowania mechanizmów nadzoru i audytu, które miałyby obowiązywać przed dalszym rozwojem najbardziej zaawansowanych systemów AI.

W nadchodzących tygodniach przedstawiciele administracji i kongresmani planują kontynuować rozmowy oraz przygotować teksty ustaw, które mają odpowiedzieć na zgłaszane obawy i ustalić wymagania dotyczące bezpieczeństwa i przejrzystości w pracach nad zaawansowaną sztuczną inteligencją.