OpenAI посилить захист моделі Astra
OpenAI посилить обмеження на модель Astra після виявлення її здатності знаходити невідомі кібервразливості й розробляти способи їхнього використання без постійного людського контролю.
OpenAI оголосила про посилення заходів безпеки щодо нової моделі штучного інтелекту Astra після внутрішнього аналізу її поведінки. Компанія виявила, що модель може знаходити раніше невідомі вразливості та пропонувати методи їхнього експлуатування без постійного людського нагляду.
Надання доступу до Astra планують обмежити для вузького кола користувачів у найближчий період. Точні дати запуску й кількість учасників не розкриваються. OpenAI зазначає, що додаткові обмеження можуть іноді уповільнювати або блокувати виконання законних завдань, але команда працює над мінімізацією таких випадків.
Раніше компанія тимчасово призупиняла частину внутрішніх робіт над Astra задля додаткової перевірки ризиків і розробки захисних механізмів. Тестування і вдосконалення правил доступу та фільтрів тривають перед розширенням користувацького кола. Технічні деталі обмежень поки не оприлюднюються.
У заяві віцепрезидентки з безпеки Амелії Глейз зазначено: «За наявності відповідних інструментів і доступу Astra може знаходити раніше невідомі вразливості та розробляти способи їхнього використання без постійного людського нагляду». Компанія також повідомляє, що Astra виявляє більше кібервразливостей, ніж найпотужніша модель OpenAI, доступна зараз.
OpenAI наголошує на необхідності поєднати розробку технології з обмеженнями, які зменшують ризики зловживань. Подальші кроки компанії включатимуть тестування захисних механізмів і поступове розширення доступу після оцінки безпеки.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
