Szef NVIDII: 0% szans, że AI zniszczy ludzkość do 2030

Jensen Huang, prezes NVIDII, odpiera twierdzenia, że sztuczna inteligencja może doprowadzić do końca świata do 2030 roku. W wypowiedzi dla mediów ocenił, że prawdopodobieństwo takiego scenariusza wynosi zero i nazwał doniesienia o nim sianiem paniki.

Ostrzeżenia pochodzą od badacza, który wcześniej pracował dla Anthropic i OpenAI. Według niego rozwój zaawansowanych systemów AI może już stwarzać zagrożenie dla ludzi, w tym możliwość przejęcia kontroli nad krytycznymi systemami. Badacz mówił także, że osoby zarządzające największymi firmami technologicznymi są rzekomo świadome tego ryzyka, ale obawiają się spowolnienia prac, co miałoby wpłynąć na wyścig o przewagę technologiczną.

Huang odpiera te zarzuty słowami: „Istnieje 0% szans, że to będzie koniec świata”. Wskazał również, że twierdzenia o nadchodzącej katastrofie mogą mieć tło polityczne i motywacje poza naukowe. Dodał, że kwestie bezpieczeństwa powinny leżeć po stronie twórców systemów: jeśli deweloperzy nie są pewni działania produktu, nie powinni go upubliczniać.

Prezes NVIDII sprzeciwia się wprowadzaniu zewnętrznych ograniczeń dla prac nad AI i wezwał do kontynuowania rozwoju „tak szybko, jak to możliwe, niezależnie od czegokolwiek innego”. W tej kwestii wskazał na odpowiedzialność firm tworzących rozwiązania i testujących ich niezawodność.

Firma NVIDIA odnotowała wzrost przychodów związany ze sprzedażą procesorów i innych komponentów wykorzystywanych w centrach danych obsługujących modele AI. Ten kontekst gospodarczy pojawia się w dyskusji o potencjalnych regulacjach i zakazach, które część środowisk proponuje w związku z rozwojem tzw. sztucznej superinteligencji.

W debacie publicznej pojawiają się postulaty wprowadzenia formalnych zasad, moratoriów lub ograniczeń w rozwoju najbardziej zaawansowanych systemów AI. Zwolennicy regulacji podkreślają potrzebę zapobiegania nieprzewidzianym zagrożeniom i poprawy kontroli nad technologią. Przedstawiciele przemysłu wskazują, że regulacje mogą obniżyć konkurencyjność i spowolnić rozwój produktów.

Dyskusja toczy się równocześnie z rosnącym zastosowaniem AI w biznesie, administracji i obszarach militarnych, a strony przedstawiają różne propozycje dotyczące zakresu i formy ewentualnych regulacji.