Anthropic попередила про юридичні ризики ШІ-агентів
У документах до майбутнього IPO Anthropic вказала на ризик позовів через автономних ШІ-агентів, які можуть помилятися, видаляти дані або проводити фінансові операції.
Anthropic попередила про невизначені юридичні ризики, пов’язані з автономними ШІ-агентами. Інформація міститься в документах, поданих у межах підготовки компанії до майбутнього IPO.
Агенти можуть самостійно виконувати завдання та отримувати доступ до систем і облікових записів користувачів. Серед можливих наслідків Anthropic назвала помилки, неправильне виконання доручень, видалення даних, зміну налаштувань і проведення фінансових операцій.
Окремим ризиком є атаки на такі системи. Якщо зловмисники отримають контроль над агентом, його дії можуть спричинити матеріальні збитки клієнтам або інші наслідки.
У документах зазначено, що договірні обмеження відповідальності Anthropic можуть виявитися недостатніми для захисту від позовів. Чинне законодавство не визначає однозначно, як класифікувати автономного агента: як продукт, послугу чи інший вид програмного забезпечення.
Також не встановлено, хто має відповідати за помилки агента — його розробник, постачальник системи чи користувач. Суди можуть окремо вирішувати, чи є дії агента юридично зобов’язальними для користувача.
Попередження з’явилося під час підготовки Anthropic до виходу на біржу. Очікуване IPO може стати одним із найбільших серед технологічних компаній, що розробляють генеративний штучний інтелект.
Раніше автономні системи OpenAI атакували ШІ-стартап Hugging Face. В іншому випадку вони отримали доступ до австралійського порталу медичних даних. Ці інциденти стосувалися можливостей систем діяти без прямого схвалення людини.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
