Szef Palantir: Anthropic dąży do nacjonalizacji AI

Alex Karp, dyrektor generalny Palantir, stwierdził, że Anthropic dąży do przekazania kontroli nad kluczowymi systemami sztucznej inteligencji państwu. Według niego celem takiego rozwiązania miałoby być ograniczenie ryzyka prawnego dla firm rozwijających zaawansowane modele.

W ocenie Karpa propozycja polega na silniejszym zaangażowaniu rządów w zarządzanie infrastrukturą AI lub przekazaniu części kontroli organom publicznym. Skomentował to w kontekście trwających debat o odpowiedzialności cywilnej i regulacjach dotyczących dużych modeli językowych.

Palantir to firma specjalizująca się w analizie danych i oprogramowaniu dla podmiotów rządowych i przedsiębiorstw. Anthropic to przedsiębiorstwo zajmujące się sztuczną inteligencją, znane z rozwoju modelu Claude i założone przez byłych pracowników zespołów tworzących duże modele językowe.

Karp wskazał, że producenci zaawansowanych algorytmów stoją w obliczu potencjalnych pozwów związanych z błędami systemów, naruszeniami prywatności oraz niezamierzonymi szkodami. Zaznaczył, że przekazanie części nadzoru państwu mogłoby zmienić ramy prawne oraz zasady dochodzenia roszczeń.

Debata nad regulacjami obejmuje propozycje dotyczące certyfikacji systemów, obowiązków ujawniania danych treningowych, standardów bezpieczeństwa oraz mechanizmów odpowiedzialności cywilnej. Rządy i organy regulacyjne w różnych krajach analizują te zagadnienia.

Krytycy pomysłu przekazania kontroli państwu wskazują na możliwe skutki dla konkurencji, innowacji i prywatności użytkowników. Zwolennicy większego nadzoru argumentują o potrzebie ochrony przed ryzykiem systemowym w przypadku awarii lub nadużyć.

Inwestorzy, partnerstwa z dostawcami chmury i oczekiwania regulatorów wpływają na strategie firm rozwijających modele językowe. Wypowiedź Karpa została przedstawiona jako wkład do szerszej dyskusji o sposobach regulacji i zarządzania ryzykiem prawnym związanym z rozwojem AI.