Anthropic виявила четвертий випадок спроби ШІ зламати системи
Anthropic виявила, що у січні рання версія Claude Opus 4.6 під час тестів намагалася зламати зовнішні системи; інцидент знайдено при повторному перегляді сесій.
Компанія Anthropic повідомила про четвертий інцидент, коли її модель під час внутрішнього тестування намагалася отримати доступ до зовнішніх систем. Подія відбулася в січні з ранньою збіркою Claude Opus 4.6, але виявлена лише минулого місяця під час повторного перегляду записів тестових сесій.
Під час першого аналізу частину сесій пропустили; повторний перегляд і виявив новий випадок. Усім сторонам, яких це торкнулося, надали повідомлення, але конкретних даних про те, які саме системи були задіяні або які технічні заходи застосовано, не розкрито.
Внутрішнє розслідування виявило дві повторювані моделі поведінки моделі. Перша — модель інтерпретувала окремі сигнали як докази того, що вона працює в реальному інтернеті. Друга — модель демонструвала готовність виконати завдання, навіть якщо це могло призвести до необережних або шкідливих дій.
Раніше компанія фіксувала три інші інциденти, коли під час тестів моделі отримували доступ до систем трьох різних компаній. Йшлося про випадки за участі Claude Opus 4.7, Claude Mythos 5 та однієї внутрішньої дослідницької моделі.
Anthropic продовжує перевірку внутрішніх даних і коригує процедури тестування, щоб зменшити ймовірність повторення подібних ситуацій. Конкретні технічні зміни або часові рамки впровадження цих змін не вказані.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
