Anthropic звинуватила операторів Alibaba у дистиляції Claude

Anthropic стверджує, що оператори, пов’язані з Alibaba та її ШІ‑лабораторією Qwen, провели масштабну кампанію дистиляції моделі Claude. За даними компанії, кампанія тривала з 22 квітня по 5 червня і через майже 25 000 фіктивних акаунтів згенерувала понад 28,8 млн взаємодій із моделлю.

У листі до голови банківського комітету Сенату США і старшої демократичної представниці Anthropic назвала інцидент найбільшою відомою компанії атакою дистиляції. Компанія вказує, що зібрані відповіді моделі могли бути використані для відтворення її поведінки.

Дистиляція — це спосіб створення спрощених або дешевших версій великих моделей шляхом використання їхніх відповідей як навчальних даних. Anthropic пояснює, що проблема виникає, коли конкуренти масово створюють фіктивні акаунти, обходять обмеження сервісу і збирають великі обсяги взаємодій для навчання власних систем. За оцінкою компанії, атака була спрямована на можливості Claude у виконанні агентних завдань, допомозі в розробці програмного забезпечення та довгостроковому плануванні.

У листі також наголошується, що Alibaba зареєстрована на Нью‑Йоркській фондовій біржі і має бізнес‑операції в США, тож, за словами Anthropic, є підзвітною американським інвесторам і регуляторам.

Компанія в листі написала: «Коли лабораторії з інших країн дистилюють ці можливості з американських моделей, вони отримують віддачу від американських інвестицій, не несучи витрат і ризиків, пов’язаних із навчанням передових ШІ‑моделей. Це перевертає економічну логіку, на якій тримається лідерство США в ШІ». У документі також висловлено стурбованість, що несанкціонована дистиляція може прискорити розвиток іноземних систем для кібероперацій, військових завдань і розвідки.

Для реагування Anthropic закликала законодавців і регуляторів розширити обмін технічними індикаторами та розвідувальною інформацією між розробниками передових моделей і урядом США, уточнити антимонопольні правила, щоб компанії могли обмінюватися інформацією про такі атаки, а також посилити експортний контроль на передові ШІ‑чипи і обчислювальні потужності. Компанія також запропонувала закрити лазівки, які дозволяють іноземним організаціям отримувати доступ до закордонних дата‑центрів, і розглянути санкції чи інші заходи проти сторін, відповідальних за масове вилучення даних моделей.

Раніше цього року Anthropic висувала схожі звинувачення проти кількох організацій, які нібито згенерували мільйони взаємодій із Claude за допомогою десятків тисяч фейкових акаунтів. У попередніх випадках фігурували різні обсяги: понад 150 тис., понад 3,4 млн і близько 13 млн взаємодій відповідно для окремих підозрюваних операторів.

На законодавчому рівні подано проєкт закону, який має обмежити вилучення технічних характеристик закритих американських моделей і передбачає експортні обмеження та санкції проти іноземних структур, які незаконно отримують доступ до продуктів на базі ШІ. Окремні компанії також працюють над технологіями для контролю місцезнаходження апаратних прискорювачів після повідомлень про їхню контрабанду.