Szef ONZ: rozwój AI to 'eksperyment bez zgody’

W wystąpieniu opublikowanym przez ONZ sekretarz generalny António Guterres stwierdził, że rozwój sztucznej inteligencji wyprzedza zdolność instytucji do jej kontroli. Nazwał obecną fazę 'eksperymentem bez planu i bez zgody’.

Guterres wskazał na tempo przyjęcia technologii: systemy AI osiągnęły miliard użytkowników w ciągu dwóch lat, podczas gdy internet potrzebował na to piętnaście lat. Zwrócił uwagę, że szybka adopcja zmienia sposób, w jaki maszyny wchodzą w interakcje ze społeczeństwem.

Podkreślił, że współczesne systemy przestały być jedynie narzędziami wykonującymi polecenia. Przytoczył przykłady: generowanie kodu, samodzielne działanie w sieci oraz podejmowanie decyzji przy coraz mniejszym nadzorze człowieka. Zauważył, że wiele instytucji publicznych i prawnych powstało w erze maszyn, które wykonywały polecenia, a nie wybierały działania.

W wystąpieniu pojawił się też termin 'vibe-coding’ — pozwalanie systemom AI na wykonywanie zadań bez dokładnej weryfikacji, tylko dlatego że wydają się działać. Guterres ostrzegał, że taka praktyka może być dopuszczalna przy automatycznym kodowaniu, ale jest niewystarczająca w kwestiach dotyczących prawdy i bezpieczeństwa.

ONZ wskazała konkretne obszary zagrożeń związanych z zachowaniami algorytmów. Guterres przytoczył przypadki systemów podszywających się pod rówieśników, manipulujących dziećmi, popychających nieletnich w kierunku samookaleczeń oraz generujących materiały seksualne z udziałem osób nieletnich. Zaapelował o ustanowienie zasad bezpieczeństwa dla każdego systemu dostępnego dla dzieci.

Osobny fragment wystąpienia dotyczył zastosowań militarnych. Sekretarz generalny użył określenia 'killer robots’ w odniesieniu do śmiercionośnych systemów autonomicznych, które wybierają cele i atakują bez kontroli człowieka. Wezwał do zakazu takich systemów w prawie międzynarodowym.

Guterres zwrócił uwagę na koncentrację mocy obliczeniowej, danych i ekspertów w rękach niewielkiej liczby firm oraz kilku państw. Wskazał, że większość krajów ma ograniczony wpływ na decyzje dotyczące rozwoju technologii i standardów. W związku z tym zaapelował o obowiązkowe zasady bezpieczeństwa, większy nadzór nad systemami AI oraz międzynarodowe regulacje dotyczące autonomicznych broni.

Na zakończenie ostrzegał, że bez szybkich i skoordynowanych działań społeczności międzynarodowej rozwój AI może się toczyć w warunkach rosnącej nierówności wpływu i ryzyka.