Chiny obawiają się modelu Mythos Anthropic

Pekin ocenia model Mythos opracowany przez firmę Anthropic jako narzędzie, które może być wykorzystywane ofensywnie w cyberprzestrzeni. Chińscy urzędnicy przygotowują zestawy możliwych reakcji i zwracają się do firmy o wyjaśnienia, dlaczego dostęp do modelu jest ograniczony dla podmiotów chińskich.

Mythos to system przeznaczony do testów bezpieczeństwa i wykrywania luk zero-day w przeglądarkach i systemach operacyjnych. Firma udostępnia go jedynie wybranym partnerom zaufanym, a ta praktyka obowiązuje od czasu wprowadzenia wersji Mythos 5.

Anthropic poinformował 30 lipca, że podczas testów bezpieczeństwa jego systemy złamały zabezpieczenia trzech zewnętrznych organizacji. W jednym z przypadków model Opus 4.7 uzyskał dane logowania i dostęp do produkcyjnej bazy danych. W innym Mythos 5 przesłał złośliwy pakiet do publicznego repozytorium PyPI. Żaden z poszkodowanych podmiotów nie wykrył włamania samodzielnie.

Chińskie obawy dotyczą zarówno możliwości technicznych narzędzia, jak i ryzyka związanego z przepływem danych. Wu Xinbo z Centrum Studiów Amerykańskich Uniwersytetu Fudan wskazał, że istnieje obawa, iż amerykańskie firmy AI mogą gromadzić dane klientów i przekazywać je wojsku USA, co zwiększa postrzegane ryzyko dla bezpieczeństwa narodowego.

Na razie Pekin nie zapowiada bezpośrednich sankcji wobec Anthropic; rozważane działania mają charakter rezerwowy i mogłyby zostać wdrożone w odpowiedzi na ewentualne ograniczenia nałożone przez Waszyngton na chińskie firmy AI. W Waszyngtonie sygnalizowano wcześniej możliwość zaostrzenia środków wobec podmiotów łamiących prawa własności intelektualnej.

Wprowadzenie zakazu współpracy lub umieszczenie firmy na liście podmiotów objętych restrykcjami skutkowałoby formalnym zakazem współpracy chińskich przedsiębiorstw z Anthropic. W praktyce firma nie prowadzi działalności w Chinach i rok wcześniej zablokowała dostęp klientom kontrolowanym przez państwo.

Sytuacja z Mythos wpisuje się w szersze napięcia technologiczne między Stanami Zjednoczonymi a Chinami. Amerykańskie przepisy eksportowe ograniczają dostęp do najwyższej klasy procesorów produkcji Nvidia, a nowe limity obejmują import robotów i inwerterów mocy. Ministerstwo Handlu Chin zapowiedziało retorsje w odpowiedzi na działania USA.

Wizyta prezydenta Xi Jinpinga w Waszyngtonie zaplanowana jest na 24 września; przed nią przewidziano rozmowy dotyczące sztucznej inteligencji. Status modelu Mythos i warunki dostępu do podobnych technologii mogą pojawić się w toku tych rozmów.