Anthropic відновлює глобальний доступ до Fable 5

Міністерство торгівлі США 30 червня скасувало експортні обмеження для моделей Claude Fable 5 і Claude Mythos 5. Anthropic оголосила, що Fable 5 стане доступною для користувачів у всьому світі з 1 липня через Claude Platform, Claude.ai, Claude Code і Claude Cowork. Доступ через хмарних постачальників AWS, Google Cloud та Microsoft Foundry компанія пообіцяла відновити якнайшвидше. Частина доступу до Mythos 5 уже була повернута для деяких американських організацій після урядового схвалення 26 червня.

Щоб відновити розгортання Fable 5, Anthropic натренувала новий класифікатор безпеки, який має виявляти та блокувати запити, пов’язані з кібербезпекою. У випадку блокування користувачі отримають повідомлення, а сам запит буде перенаправлений у модель Claude Opus 4.8. За даними компанії, новий класифікатор ідентифікує конкретний метод джейлбрейку в понад 99% випадків.

Anthropic зазначає, що повністю зробити модель стійкою до джейлбрейків, ймовірно, неможливо. Компанія попереджає, що нові заходи безпеки призведуть до збільшення кількості хибних спрацьовувань під час звичних завдань програмування й налагодження, і називає це компромісом заради розширення доступу до інших функцій моделі.

Разом з партнерами проєкту Glasswing, включно з Amazon, Microsoft і Google, Anthropic запроваджує узгоджену методику оцінки серйозності джейлбрейків. Запропонована схема оцінює, наскільки джейлбрейк розширює можливості потенційного зловмисника порівняно з доступними інструментами, на яку кількість шкідливих завдань поширюється обхід, наскільки просто перетворити його на реальну атаку і наскільки просто іншим знайти або відтворити метод. Для випадків із найвищими оцінками серйозності компанія планує починати превентивні заходи одразу після підтвердження загрози.

Anthropic також формує команду для цілодобового моніторингу каналів, де публікують інформацію про джейлбрейки, та запускає програму на платформі HackerOne для повідомлень про можливі обходи захисту Fable 5. Компанія оголосила про намір надавати передрелізний доступ до інструментів захисту для оцінки, обмінюватися інформацією про злами і виділяти ресурси для спільних досліджень з владою та партнерами.

У повідомленні Anthropic наведено: “Після серії продуктивних переговорів із урядом США ми відновлюємо розгортання моделі з новим набором класифікаторів, щоб точніше виявляти та блокувати завдання, пов’язані з кібербезпекою. Ймовірно, неможливо зробити будь-яку модель ШІ повністю стійкою до джейлбрейків.”

На тлі цих заяв інші розробники також випускали спеціалізовані моделі для роботи з вразливостями. У червні на ринку з’явилася модель, призначена для пошуку та виправлення вразливостей, і наприкінці місяця обмежений доступ до деяких моделей надавався довіреним партнерам за запитом американської влади.