Anthropic śledziło połączenia Claude, wykrywając serwery z Chin

Internauta posługujący się pseudonimem Thereallo odnalazł w kodzie modelu Claude komponent ukryty w systemowym monitorze, który odczytywał strefę czasową i identyfikował serwer proxy używany przez użytkownika. Analiza wykazała, że mechanizm miał rozpoznać połączenia wskazujące na chińskie instytuty badawcze i laboratoria zajmujące się sztuczną inteligencją.

Anthropic potwierdził obecność takiego oprogramowania. W komentarzu na platformie X inżynier firmy Thariq Shihipa opisał go jako „eksperyment” uruchomiony w marcu w celu ograniczenia nadużyć przez nieautoryzowanych resellerów subskrypcji. Według przedstawiciela firmy mechanizm ma zostać wyłączony, ponieważ wprowadzone znaleziono bardziej skuteczne metody wykrywania nadużyć.

Z udostępnionej analizy wynika, że moduł nie zbierał treści zapytań ani pełnej historii aktywności użytkowników. Jego działanie ograniczało się do sprawdzania parametrów połączenia i strefy czasowej. Nie podano dokładnych informacji o czasie działania narzędzia ani o skali ewentualnie zebranych danych.

Odkrycie spotkało się z krytyką ze strony części użytkowników i ekspertów ds. prywatności, którzy wskazali na ryzyko tworzenia precedensu dla ukrytego monitoringu. Reakcje obejmowały żądania większej przejrzystości dotyczącej testów bezpieczeństwa i praktyk zbierania danych przez dostawców modeli AI.

Sprawa została również odnotowana przez środowiska zajmujące się etyką i regulacją technologii, które oczekują dodatkowych wyjaśnień od Anthropic. Firma poinformowała, że mechanizm miał charakter testowy i że pracuje nad innymi rozwiązaniami przeciw nadużyciom, nie podając jednak terminu wyłączenia ani szczegółów technicznych.