Hassabis: USA powinny szybko powołać niezależny regulator SI

Demis Hassabis, współzałożyciel i CEO Google DeepMind, opublikował 15 lipca programowy esej, w którym wezwał rząd USA do powołania niezależnego organu standaryzacyjnego do testowania najbardziej zaawansowanych modeli sztucznej inteligencji przed ewentualnym pojawieniem się AGI. Projekt poparli Sundar Pichai z Google oraz Satya Nadella i Mustafa Suleyman z Microsoftu.

Hassabis zaproponował utworzenie tzw. Standards Body, strukturę wzorowaną na FINRA z rynku finansowego. W eseju opisano, że nowy organ miałby opracowywać jednolite protokoły oceny najpotężniejszych modeli, przeprowadzać niezależne testy we współpracy z federalnymi agencjami i narodowymi laboratoriami oraz regularnie aktualizować kryteria wraz z postępem technologicznym.

W projekcie przewidziano nadawanie statusu „Frontier Labs” firmom, których modele osiągną określone progi możliwości i spełnią wymagania bezpieczeństwa. Laboratoria z takim statusem byłyby zobowiązane do publikowania dokumentacji technicznej modeli, wzmacniania zabezpieczeń cybernetycznych, weryfikacji kluczowych pracowników oraz zapewnienia finansowania badań nad bezpieczeństwem SI.

Na początkowym etapie uczestnictwo w programie miałoby mieć charakter dobrowolny: laboratoria mogłyby przekazywać modele do weryfikacji około 30 dni przed planowaną premierą. W eseju wskazano, że jeśli mechanizm okaże się skuteczny, przejście testów mogłoby w przyszłości stać się warunkiem wprowadzenia zaawansowanych modeli na rynek amerykański. Hassabis zaznaczył także możliwość koordynacji tymczasowego spowolnienia rozwoju modeli, jeśli ryzyka uznane zostaną za zbyt wysokie.

Autor eseju argumentuje, że AGI może pojawić się „już za kilka krótkich lat” i że decyzje podjęte teraz będą miały długofalowe skutki. W tekście wskazano potencjalne pozytywne zastosowania takich systemów, m.in. przyspieszenie odkrywania leków, rozwój nowych źródeł czystej energii, opracowywanie nowych materiałów oraz wzrost produktywności gospodarki. Jednocześnie Hassabis ostrzegł przed ryzykami wykraczającymi poza tradycyjne problemy cyberbezpieczeństwa, wymieniając zagrożenia związane z bezpieczeństwem biologicznym, nuklearnym oraz kontrolą nad systemami zdolnymi do rekurencyjnego samodoskonalenia. W eseju znalazło się zdanie: „W zasadzie znaleźliśmy sposób, by zmusić piasek do myślenia. To cud.”

Reakcje liderów branży pojawiły się natychmiast. Sundar Pichai skomentował publikację z krótkim apelem do lektury. Satya Nadella nazwał esej przypomnieniem o odpowiedzialnym rozwoju i podkreślił potrzebę tworzenia ekosystemu zaawansowanej SI, który łączy innowacje z bezpieczeństwem. Mustafa Suleyman ocenił, że nadszedł czas działania.

Krytyczne uwagi zgłosił recenzent działający pod pseudonimem Chubby, przypominając, że Hassabis przez lata przyjmował ostrożne stanowisko wobec prognoz dotyczących AGI, więc obecne prognozy uznał za zaskakujące. Wcześniejsze apele o globalne mechanizmy bezpieczeństwa formułowały też inne podmioty z branży; wskazywano m.in. na potrzebę mechanizmów umożliwiających tymczasowe ograniczenie rozwoju najpotężniejszych modeli oraz na ryzyko koncentracji kontroli nad technologią w rękach niewielu firm.

Esej Hassabisa i odpowiedzi liderów firm technologicznych wywołały szerszą debatę publiczną na temat ram regulacyjnych i mechanizmów kontroli nad zaawansowaną sztuczną inteligencją.