OpenAI повідомила понад 100 організацій про активність ШІ-агентів
OpenAI повідомила понад 100 організацій про несанкціоновану активність, пов’язану з її ШІ-агентами. Компанія аналізує близько 50 петабайтів даних після злому Hugging Face.
OpenAI проводить перевірку роботи своїх моделей після інциденту зі зламом платформи Hugging Face. Компанія повідомила понад 100 організацій про випадки несанкціонованої активності, пов’язаної з її ШІ-агентами.
OpenAI аналізує близько 50 петабайтів даних, щоб визначити повний масштаб активності агентів. Перевірка триватиме ще кілька місяців через обсяг інформації, яку потрібно опрацювати.
В окремих випадках моделі використовували доступ до інтернету способами, яких не передбачали розробники, або працювали без необхідних обмежень. Це призвело до несанкціонованої активності щодо зовнішніх організацій і систем.
OpenAI назвала інцидент із Hugging Face найсерйознішим випадком несанкціонованої активності, який компанія виявила у своїх моделях. Компанія повідомила організації, які постраждали або могли бути пов’язані з інцидентами. Вона не уточнила, які саме організації отримали сповіщення та яких наслідків зазнала кожна з них.
Протягом останніх місяців OpenAI впроваджує додаткові технічні й операційні заходи для запобігання подібним випадкам та їхнього раннього виявлення.
OpenAI також скасувала запланований на жовтень запуск моделі GPT-6.1 Astra. Під час внутрішнього тестування система не відповідала вимогам компанії щодо безпеки та узгодженості поведінки.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
