Anthropic usunęła ukryte znaczniki w Claude Code

Anthropic usunęła z narzędzia Claude Code ukryte znaczniki Unicode oraz zakodowane listy domen wykryte w czerwcu przez badaczy ds. cyberbezpieczeństwa. Elementy te były osadzane w podpowiedziach systemowych i były niewidoczne dla użytkowników.

Autor zgłoszenia, działający pod pseudonimem Thereallo, wskazał, że znaczniki pozwalały rozpoznawać korzystanie z serwerów proxy, odwołania przez nieoficjalne bramki, użycie zewnętrznych resellerów API oraz możliwe powiązania z niektórymi chińskimi laboratoriami SI poprzez domeny zawierające nazwy takie jak DeepSeek czy Zhipu.

Thereallo zgłosił: „To nie jest złośliwa funkcja, ale to dziwne rozwiązanie jak na narzędzie dla deweloperów, które prosi użytkowników o zaufanie”. Badacz dodał, że sama idea wykrywania resellerów API i prób destylacji modeli jest zrozumiała, ale sposób realizacji budził wątpliwości.

Anthropic wyjaśniła, że mechanizm wprowadzono w marcu jako eksperyment przeciw nieautoryzowanym resellerom i próbom destylacji modeli. Inżynier Tariq Shihipar poinformował na platformie X, że od czasu uruchomienia zespoły opracowały skuteczniejsze mechanizmy ochrony, odpowiedni pull request został zmergowany, a system ma zostać całkowicie usunięty w kolejnym wydaniu.

Wcześniej Anthropic oskarżyła kilka firm o pozyskiwanie danych przy użyciu fałszywych kont w celu trenowania własnych modeli. Firma wskazała, że niemal 25 000 fałszywych kont wygenerowało około 28,8 mln interakcji z Claude. W efekcie część podmiotów zablokowała pracownikom korzystanie z Claude Code i przeniosła ich na własne platformy.

Anthropic potwierdziła, że ukryte znaczniki zostały wycofane. Firma zapowiedziała kolejne aktualizacje bezpieczeństwa, które mają ograniczyć ryzyko nieautoryzowanego wykorzystania danych bez stosowania identyfikujących znaczników w treściach systemowych.