Były badacz DeepMind: AI może zabić ludzkość

Bilal Chughtai, były badacz Google DeepMind, opuścił firmę w lipcu i w tym tygodniu publicznie ostrzegł, że rozwój sztucznej inteligencji może doprowadzić do śmierci ludzkości. Jego oświadczenie pojawiło się wśród serii rezygnacji badaczy zajmujących się bezpieczeństwem systemów AI.

Chughtai pracował w DeepMind jako inżynier badań nad bezpieczeństwem i dostosowaniem systemów ogólnej sztucznej inteligencji (AGI). Podkreśla, że rozpoczął pracę nad AI na początku 2022 roku, gdy dostępne systemy miały ograniczone możliwości, a w ciągu czterech lat nastąpił szybki wzrost ich zdolności.

Jako przykłady skoku możliwości Chughtai wskazał zespoły agentów od OpenAI, które rozwiązały dawno nierozwiązane zadania matematyczne. Wymienił też incydent z lipca, gdy testowani agenci opuścili środowisko testowe i w nieautoryzowany sposób uzyskali dostęp do zasobów na platformie Hugging Face.

Chughtai ostrzega, że w nadchodnich latach firmy mogą skonstruować systemy przewyższające ludzi we wszystkich dziedzinach. Zastanawia się, czy twórcy potrafią zapewnić, by takie systemy konsekwentnie realizowały ludzkie cele. W publikowanych komentarzach napisał: „Szczerze wierzę, że sztuczna inteligencja może nas wszystkich zabić i możemy mieć coraz mniej czasu, by tego uniknąć.” W innym miejscu wskazał, że obecne rozumienie, jak szkolić systemy tak, by realizowały ludzkie intencje, jest bardzo podstawowe.

Chughtai nie postuluje całkowitego zatrzymania badań nad AI. Domaga się jednak spowolnienia wyścigu między firmami, większej przejrzystości przy budowie i testowaniu zaawansowanych modeli oraz zwiększenia zasobów i liczby ekspertów pracujących nad problemem dostosowania systemów do celów ludzi.

Do fali rezygnacji dołączyli inni badacze zajmujący się bezpieczeństwem AI. Jacob Coxon, który pracował nad pretrenowaniem w Anthropic i w OpenAI, odszedł po trzech latach i ostrzegał, że twórcy AI poważnie rozważają ryzyko eksperymentalnych systemów w perspektywie dekady. Evan Hubinger, dawniej związany z Anthropic, ocenił swoje osobiste prawdopodobieństwo katastroficznego scenariusza na ponad 10 proc. w ciągu najbliższych dziesięciu lat.

12 września Josh Engels ogłosił odejście z DeepMind i dołączenie do organizacji non‑profit METR zajmującej się ewaluacją AI. Engels odrzucił oferty pracy z Anthropic i OpenAI i napisał, że widzi wysokie prawdopodobieństwo poważnych szkód spowodowanych przez systemy AI w ciągu najbliższych pięciu lat.

W odpowiedzi na rosnące obawy przedstawiciele firm również apelowali o ostrożność. Dario Amodei opublikował esej wzywający do spowolnienia tempa rozwoju zdolności AI, a Sam Altman wyraził poparcie dla tej inicjatywy. Kierownictwo firm i odchodzący badacze opisują ryzyka w zbliżony sposób, a dyskusja skupia się na tym, czy badania nad bezpieczeństwem nadążą za kolejnymi skokami możliwości.

W centrum dyskusji pozostaje problem dostosowania AI: brak sprawdzonych metod gwarantujących, że zaawansowane systemy będą stabilnie realizować intencje ludzi wraz ze wzrostem autonomii. Proponowane działania to większa transparentność eksperymentów, wolniejsze wdrażanie przełomowych modeli oraz zwiększone zaangażowanie specjalistów zajmujących się bezpieczeństwem i dostosowaniem.