Anthropic ostrzega przed zagrożeniami AI przed IPO

Anthropic ostrzegł w prospekcie emisyjnym, że zaawansowane systemy sztucznej inteligencji mogą stwarzać katastrofalne, a nawet egzystencjalne zagrożenia dla ludzkości. Dokument powstał w ramach przygotowań do planowanej pierwszej oferty publicznej spółki.

Firma wskazała, że stanowisko władz i agencji państwowych wobec Anthropic oraz jej technologii może wpłynąć na całą działalność komercyjną. Konflikt z administracją publiczną mógłby ograniczyć dostęp do kontraktów rządowych, pogorszyć relacje z partnerami biznesowymi i zmniejszyć zaufanie inwestorów.

Ostrzeżenia wykraczają poza standardowe informacje o ryzyku regulacyjnym. Anthropic ocenia, że negatywne postrzeganie spółki przez władze może wpłynąć na klientów komercyjnych. Firmy korzystające z modeli AI mogą obawiać się konsekwencji związanych z ich wdrażaniem.

Bezpośrednie umowy Anthropic z agencjami rządowymi odpowiadają za mniej niż 1 proc. rocznych przychodów spółki. Ewentualny konflikt z administracją mógłby więc dotyczyć przede wszystkim reputacji firmy i jej relacji z klientami cywilnymi.

Anthropic od lat informuje o zagrożeniach związanych z rozwojem autonomicznych systemów AI. Dyrektor generalny Dario Amodei wielokrotnie apelował o wolniejsze tempo prac nad najbardziej zaawansowanymi modelami, aby dać firmom i regulatorom więcej czasu na stworzenie mechanizmów kontroli. Anthropic wskazywał też na możliwość wykorzystywania autonomicznych agentów do przeprowadzania ataków hakerskich.

W niedzielę Amodei spotkał się podczas kolacji z prezydentem Stanów Zjednoczonych Donaldem Trumpem. Rozmowa odbyła się w czasie debaty o regulowaniu sektora sztucznej inteligencji. Trump sprzeciwia się większości propozycji wprowadzenia sztywnych ograniczeń prawnych dla firm technologicznych.

Inwestorzy będą obserwować stanowisko Federalnej Komisji Handlu oraz decyzje Departamentu Obrony dotyczące Anthropic i rynku sztucznej inteligencji. W prospekcie spółka przedstawia ryzyka związane z regulacjami, relacjami z władzami oraz bezpieczeństwem rozwijanych modeli.