Trump powierzył firmom nadzór nad bezpieczeństwem AI

W komunikacie Białego Domu podano, że porozumienie upoważnia firmy do prowadzenia testów i raportowania ryzyk związanych z zaawansowanymi modelami sztucznej inteligencji oraz do współpracy z administracją przy tworzeniu standardów bezpieczeństwa.

Porozumienie określa konkretne obowiązki przedsiębiorstw: przeprowadzanie testów przed wdrożeniem systemów, prowadzenie audytów bezpieczeństwa oraz tworzenie mechanizmów zgłaszania incydentów AI władzom federalnym. Firmy mają także przygotowywać regularne raporty techniczne dotyczące potencjalnych zagrożeń i sposobów ich ograniczania.

Dokument przewiduje stałą koordynację między firmami a agencjami rządowymi. Administracja wskazała, że celem porozumienia jest szybsze wykrywanie i naprawianie błędów systemów AI. Porozumienie nie pozbawia rządu uprawnień do egzekwowania przepisów ani interwencji w przypadku istotnych naruszeń.

W praktyce największe koncerny mają odpowiadać za codzienne procedury testowe, wewnętrzne certyfikacje oraz wdrażanie ograniczeń dostępu do modeli o wysokim ryzyku. Dokument zaleca także użycie zewnętrznych audytów i kontrolowanych testów; szczegóły dotyczące harmonogramów i standardów audytowych mają być ustalone wspólnie przez strony.

Porozumienie zawiera elementy dotyczące ochrony konsumentów i bezpieczeństwa narodowego. Firmy mają identyfikować scenariusze, w których systemy AI mogą być wykorzystywane w sposób zagrażający prywatności użytkowników lub stabilności infrastruktury, oraz opracowywać procedury łagodzące te ryzyka. Administracja zastrzegła możliwość wprowadzania dodatkowych wymogów wobec modeli uznanych za szczególnie ryzykowne.

Dokument pojawia się w okresie rosnącego zastosowania zaawansowanych modeli językowych i systemów decyzyjnych w obszarach o dużych konsekwencjach. W komunikacie wskazano, że współpraca z sektorem prywatnym ma przyspieszyć wdrożenie praktycznych środków bezpieczeństwa, przy jednoczesnym prowadzeniu dalszych konsultacji z ekspertami technicznymi i organami regulacyjnymi.

Porozumienie przewiduje regularne przeglądy i aktualizacje zasad współpracy oraz raportowanie postępów do administracji. Szczegółowe warunki dotyczące zakresu audytów, terminów raportowania oraz odpowiedzialności za naruszenia mają zostać opublikowane w kolejnych dokumentach przygotowywanych przez rząd i przedstawicieli branży.