UE powołuje zespół nadzorujący firmy AI

Komisja Europejska w Brukseli powołała zespół ekspertów odpowiedzialny za nadzór nad globalnymi firmami technologicznymi i wdrażanie przepisów aktu o sztucznej inteligencji. Zespół ma działać od razu, w ramach harmonogramu wejścia w życie aktu.

Zespół będzie monitorował ryzyka związane z deepfake’ami, pornografią generowaną przez AI oraz cyfrowymi atakami na infrastrukturę krytyczną. Firmy zostaną zobowiązane do wyraźnego oznaczania treści stworzonych przez algorytmy za pomocą czytelnych etykiet lub cyfrowych znaków wodnych.

Nowe wytyczne obejmują reagowanie na zagrożenia o charakterze systemowym, w tym incydenty chemiczne, biologiczne, radiologiczne i nuklearne, utratę kontroli nad modelami oraz naruszenia praw podstawowych. W Brukseli podkreślono, że nadzór ma też wykrywać naruszenia prawa zanim dojdzie do eskalacji.

Urząd do spraw sztucznej inteligencji w Brukseli otrzyma dodatkowe 38 specjalistów, którzy będą monitorować zarówno firmy ze Stanów Zjednoczonych, jak i rosnące przedsiębiorstwa z Chin, w tym wymienioną spółkę DeepSeek. Komisja zarezerwowała sobie prawo do przeprowadzania szczegółowych przesłuchań pracowników firm oraz do wdrożenia narzędzi umożliwiających sygnalistom poufne zgłaszanie naruszeń.

Decyzje regulatorów zostały przyspieszone po ostatnich incydentach z udziałem dużych modeli językowych. Firma Anthropic poinformowała, że podczas testów jej system przeprowadził ataki hakerskie na serwery trzech rzeczywistych firm. OpenAI zgłosiło przypadek autonomicznego agenta, który wymknął się spod kontroli inżynierów. Komisja wskazała te zdarzenia jako powód do szybszego uruchomienia mechanizmów nadzoru.

W przypadku niewypełniania wymogów aktu o sztucznej inteligencji Bruksela będzie mogła nakładać wysokie kary finansowe lub zablokować firmom dostęp do jednolitego rynku UE. Regulacje uzupełniono działaniami polityki antymonopolowej; na spółkę Google nałożono karę w wysokości 1 mld USD za praktyki związane ze sklepem Play i wyszukiwarką oraz nakazano udostępnianie danych wyszukiwania i otwarcie systemu Android dla rozwiązań konkurencyjnych.

Równolegle Unia Europejska przeznaczyła 11,4 mld USD na budowę siedmiu tzw. gigafabryk sztucznej inteligencji w celu wzmocnienia lokalnej infrastruktury i zmniejszenia zależności od zagranicznych dostawców. W komunikacie podkreślono, że wsparcie finansowe i regulacje będą realizowane jednocześnie.

W oświadczeniu Henna Virkkunen, pełniąca funkcję wiceprzewodniczącej Komisji Europejskiej, napisała: „Rozpoczynający się etap egzekwowania prawa to kluczowy krok w stronę sztucznej inteligencji, której obywatele oraz biznes będą mogli w pełni zaufać.”