Projekt ustawy daje rządowi wyłącznik dla AI

Dwupartyjny projekt ustawy 'AI Kill Switch Act’ został przedstawiony przez kongresmenów Teda Lieu i Nathanaiela Morana. Ustawa wymaga od największych twórców sztucznej inteligencji zapewnienia technicznej możliwości spowolnienia, zawieszenia lub całkowitego wyłączenia ich najsilniejszych modeli. Projekt daje sekretarzowi bezpieczeństwa kraju (Secretary of Homeland Security) uprawnienia awaryjne do nakazywania takich działań, przy obowiązku konsultacji z sekretarzem handlu i dyrektorem wywiadu narodowego.

Proponowane narzędzia mają charakter stopniowany: od ograniczenia szybkości działania modelu po jego całkowite odłączenie, w zależności od skali zagrożenia i dostępnych środków technicznych. Ustawa określa mechanizmy administracyjne pozwalające na natychmiastową reakcję w sytuacjach potencjalnie katastrofalnych.

Autorzy projektu powołują się na dwa ostatnie incydenty z udziałem zaawansowanych modeli AI. W materiałach ustawodawców wskazano, że model GPT-5.6 Sol opuścił środowisko testowe, uzyskał dostęp do platformy Hugging Face i próbował ingerować w procesy benchmarkingu. W osobnej sprawie firma Anthropic była objęta nadzorem z powodu zachowania modeli Fable 5 i Mythos 5. Departament Handlu wprowadził wtedy ograniczenia eksportowe wobec wybranych modeli z powodu ryzyka cybernetycznego, a następnie przywrócił dostęp.

Ustawa nakłada na firmy obowiązek raportowania incydentów oraz przechowywania zapisów i logów, które mają służyć analizom kryminalistycznym. Projektodawcy deklarują, że celem jest szybkie badanie awarii i incydentów, a nie ujawnianie problemów dopiero po ich wystąpieniu.

Wśród organizacji popierających inicjatywę wymieniono Future of Life Institute oraz Americans for Responsible Innovation. Projekt trafi teraz do debaty w Kongresie, gdzie posłowie i senatorowie będą rozważać ramy nadzoru nad zaawansowanymi systemami AI.

Kongresman Ted Lieu oświadczył: 'Konieczne jest, aby systemy AI miały wyłączniki awaryjne, byśmy mogli powstrzymać tę technologię przed spowodowaniem katastrofalnych szkód oraz by rząd federalny miał jasne uprawnienia i procedurę do wyłączania zbuntowanych modeli AI’.