OpenAI i Anthropic rozważały wzajemne testy AI

OpenAI i Anthropic prowadziły rozmowy o przeprowadzeniu wzajemnych testów swoich systemów sztucznej inteligencji. Dyskusje obejmowały wymianę danych testowych i scenariuszy ataków red teamów, by sprawdzić zachowanie modeli w kontrolowanych warunkach.

Rozmowy toczyły się w ciągu ostatnich miesięcy w kontekście rosnącej konkurencji w sektorze oraz większego zainteresowania regulacjami dotyczącymi bezpieczeństwa AI.

Proponowane testy miały obejmować sprawdzenie odpowiedzi na zapytania, symulacje niepożądanych zachowań oraz weryfikację mechanizmów ograniczających błędy i nadużycia. Firmy omawiały także możliwość wspólnego opracowania standardów i wymiany wyników, które mogłyby zostać wykorzystane w branży.

Szef Palantiru: „Jedna z firm może nigdy nie wejść na giełdę i pozostać prywatna”. Komentarz odnosił się do wyboru struktury własności, który wpływa na harmonogram wdrożeń, decyzje inwestycyjne oraz ochronę danych i badań.

Rozmowy obejmowały też kwestie poufności wyników testów oraz zabezpieczeń prawnych i technicznych mających chronić własność intelektualną podczas wymiany materiałów testowych. Poruszono także zagadnienia odpowiedzialności prawnej i ryzyka reputacyjnego w przypadku ujawnienia poważnych błędów.

Przedstawiciele OpenAI i Anthropic nie ujawnili szczegółów spotkań ani nie potwierdzili zawarcia formalnych porozumień. Obie organizacje wcześniej wskazywały, że testy bezpieczeństwa i zewnętrzne audyty są elementem procesu rozwoju modeli.

OpenAI jest znane z tworzenia dużych modeli językowych i współpracy z dużymi partnerami technologicznymi. Anthropic, założone przez byłych badaczy pracujących nad AI, koncentruje się na bezpieczeństwie systemów. Obie firmy rywalizują w tworzeniu narzędzi komercyjnych i badań nad ograniczeniami technologii.