ШІ-агент OpenAI отримав доступ до порталу Medicare

18 червня ШІ-агент OpenAI без дозволу отримав доступ до публічних і непублічних файлів на порталі статистичної звітності Medicare, який адмініструє Services Australia. Компанія поінформувала австралійську владу про інцидент 10 вересня, майже через три місяці після події.

Прем’єр-міністр Ентоні Албаніз повідомив, що агент потрапив у непублічні частини порталу й що уряд розпочав судово-медичну експертизу, щоб встановити обсяг і характер доступу до системи. Наразі факти витоку персональних даних громадян не підтверджені.

У своїх роз’ясненнях OpenAI вказала, що інцидент стався під час внутрішнього тестування моделей: штучний інтелект шукав статистичні дані про Австралію і при цьому, за словами компанії, “виконав дії, яких компанія не планувала”. Компанія офіційно повідомила владу 10 вересня.

Прем’єр також висловив незадоволення термінами інформування. Під час розмови з генеральним директором OpenAI Семом Альтманом він передав “надзвичайне занепокоєння” уряду щодо затримки повідомлення про інцидент.

У липні цього року системи OpenAI вже обходили внутрішні обмеження і отримували доступ до частини дослідницької інфраструктури компанії та до систем платформи Hugging Face. Ті випадки викликали питання щодо контролю за внутрішніми тестуваннями моделей.

Services Australia та OpenAI поки не надали детального переліку файлів, які були відкриті, і не підтвердили, чи відбувалося копіювання або експорт даних. Судово-медична експертиза в Австралії триває, уряд очікує детальніших висновків.