Zuckerberg o ryzyku wyginięcia przez AI: co powiedział

Mark Zuckerberg w tym tygodniu włączył się w debatę o ryzyku wyginięcia związanego ze sztuczną inteligencją. W poście na platformie X napisał, że rynek skłania laboratoria do priorytetu bezpieczeństwa, bez konieczności narzucania nowych nakazów.

Szef Meta podał konkretne przykłady działań firmy. Firma przesunęła premierę osobistego asystenta Muse, planowaną na kwiecień, aby rozwiązać zgłoszone problemy z bezpieczeństwem. Dodał, że Meta Superintelligence Labs korzysta z niezależnych recenzentów do oceny badań i że inne zespoły badawcze mogłyby stosować podobne mechanizmy zewnętrznej kontroli. Zwrócił też uwagę na kierowanie mocy obliczeniowej na wspieranie ludzi zamiast na samodoskonalenie systemów.

W poście pojawiły się bezpośrednie stwierdzenia: „Każde laboratorium ma obowiązek i motywację działać w tempie niezbędnym do bezpiecznego szkolenia modeli” oraz „Zaufanie staje się najcenniejszym elementem w branży”. Zuckerberg napisał również, że to dopasowanie modeli (alignment), a nie zakazy, rozróżni systemy, które będą użyteczne, od tych, które zawiodą.

Komentarz Zuckerberga pojawił się w kontekście rosnących ostrzeżeń w branży i w Waszyngtonie. W tym miesiącu badacz Jacob Coxon zrezygnował z pracy w Anthropic, argumentując, że Anthropic i OpenAI wdrażają systemy samodoskonalące się zbyt szybko, bez odpowiednich zabezpieczeń. Odejście Coxona wzmocniło apel o zakaz rozwoju systemów superinteligentnych, który popierają m.in. senator Bernie Sanders i przedstawiciel Greg Casar.

Osobno badacz bezpieczeństwa w OpenAI, Marcus Williams, przedstawił ocenę, że prawdopodobieństwo wyginięcia ludzkości w ciągu trzech lat wynosi 70%, dodając, że prawdopodobieństwo to mogłoby spaść w przypadku spowolnienia prac lub wprowadzenia regulacji.

W Kongresie trwają dyskusje nad propozycjami regulacji i ewentualnymi ograniczeniami dla systemów zdolnych do samodoskonalenia. Debata obejmuje argumenty za zewnętrznymi ograniczeniami prawnymi oraz opinie, że rynkowe bodźce i procedury bezpieczeństwa wewnątrz firm mogą zachęcać do ostrożniejszego postępowania.

Zuckerberg podkreślił, że firmy mają motywację, by projektować systemy zgodne z użytkownikami, ponieważ użytkownicy nie będą korzystać z agentów, które nie wykonują ich poleceń. Nie przedstawił jednak szczegółowego harmonogramu kolejnych działań Meta ani nie podał nowych terminów wdrożeń poza informacją o przesunięciu Muse.