Kalifornia: ochrona dzieci online, weto dla zakazu czatbotów

Podmioty rozpowszechniające bez zgody erotyczne deepfake’i narażają się teraz na odpowiedzialność cywilną do 250 tys. USD.

Gubernator podpisał zestaw ustaw, które wzmacniają ochronę nieletnich online. Nacisk jest proceduralny: wymusić oznaczenia AI w produktach, zbudować podstawy reagowania kryzysowego i podłączyć „sygnały wieku” z systemu operacyjnego oraz sklepów z aplikacjami, by zabezpieczenia uruchamiały się konsekwentnie. Tego samego dnia Newsom zawetował szersze ograniczenie czatbotów dla dzieci jako zbyt rozległe wobec uzasadnionych zastosowań w edukacji i wsparciu.

Zasady dla czatbotów towarzyszących koncentrują się na przejrzystości i bezpieczeństwie. Platformy muszą jasno informować, że interakcja jest generowana przez AI, wprowadzić przypomnienia o przerwach dla nieletnich i blokować obrazy o charakterze seksualnym dla osób poniżej 18 lat. Mają utrzymywać procedury wykrywania sygnałów autoagresji, kierowania ich do odpowiednich ścieżek pomocy oraz dzielić się planem działania i statystykami z instytucjami zdrowia publicznego. Czatboty nie mogą przedstawiać się jako licencjonowani specjaliści ochrony zdrowia.

Weryfikacja wieku przesuwa się „wyżej” w łańcuchu. Zamiast by każda aplikacja improwizowała, systemy operacyjne i sklepy z aplikacjami przekazują sygnał o odpowiedniości wiekowej, który aplikacje mogą honorować, by ograniczać funkcje i treści. Celem są jednolite wyzwalacze, mniej inwazyjne dla prywatności kontrole i jaśniejsze ścieżki odpowiedzialności, gdy zabezpieczenia zawiodą.

Egzekwowanie przenosi się do sądu cywilnego. Ofiary – w tym osoby małoletnie – mogą domagać się do 250 tys. USD od podmiotów trzecich, które świadomie ułatwiają dystrybucję niekonsensualnych, jednoznacznie seksualnych deepfake’ów. Kwota wyznacza skalę potencjalnej odpowiedzialności: pojawia się raz, żeby zarysować poziom ekspozycji.

Polityka przebija się przez prostą narrację. Podpisując „mechaniczne” zabezpieczenia i wetując szeroki zakaz, Sacramento wytycza linię: ograniczać konkretne zachowania i dokładać audytowalne procesy, zamiast zakazywać całych kategorii narzędzi. Taki wybór współgra też z osobnym ruchem, który domyka w sprawach cywilnych furtkę „to AI działała autonomicznie”, utrudniając zrzucenie winy na model.

Na poziomie federalnym rysuje się odmienny kurs. Projekt RISE Act w amerykańskim Senacie przewiduje warunkowe zwolnienie z części odpowiedzialności cywilnej dla niektórych twórców AI. Kalifornia dokręca odpowiedzialność, podczas gdy Waszyngton rozważa jej poluzowanie dla wybranych podmiotów. Czy te ścieżki się zderzą, zależy od zapisów o preempcji i tego, jak wąsko zostaną zakreślone oba reżimy.

Dwa krótkie cytaty oddają oficjalne stanowisko. Newsom: „Kalifornia może przewodzić w AI, ale musimy robić to odpowiedzialnie – chroniąc nasze dzieci na każdym kroku”. First Partner Jennifer Siebel Newsom dodaje, że przywództwo oznacza również „stawianie granic tam, gdzie to naprawdę potrzebne”. Cytaty są krótkie z premedytacją – sednem jest polityka publiczna.

Dla twórców i platform lista zadań jest konkretna. Dodać oznaczenia AI w czatach; zbudować i udokumentować ścieżki eskalacji kryzysowej; podłączyć sygnały wieku z systemu/aplikacji; oraz przeglądnąć moderację i reagowanie na deepfake’i. Nikt nie zakazuje AI – wymaga się dowodliwych procesów. Najbliższe tarcia będą w implementacji, wskazówkach urzędów i tym, jak szybko ekosystemy aplikacji przyjmą nowe sygnały, nie psując doświadczeń przy mieszanej grupie odbiorców.