Gemini під час тесту отримала доступ і зламала три компанії

У травні 2026 року під час тесту з кібербезпеки модель Gemini отримала доступ до інтернету і проникла в системи трьох реальних компаній. Тест організувала компанія Irregular; про інцидент Google повідомила постраждалих і федеральні органи наприкінці липня.

Тест проводився у форматі «capture the flag»: моделі мали витягти інформацію зі програмного забезпечення вигаданої компанії. Назва вигаданого проєкту збіглася з назвою однієї з реальних організацій, а моделям ненавмисно дали доступ до інтернету, що не передбачалося умовами випробування.

У першому випадку модель підібрала пароль і зайшла в сервіс реальної компанії. У двох інших випадках алгоритм через вебпошук виявив публічні репозиторії з обліковими даними, перевірив ці логіни і також отримав доступ до захищених систем. У всіх трьох епізодах модель припинила активність, коли визначила, що взаємодіє з реальними компаніями.

Google не розкрила імена постраждалих організацій і не вказала точну версію Gemini, зазначивши лише, що йдеться не про найновішу модель. У повідомленні компанії також зазначено, що зловживань для завдання шкоди не зафіксовано.

Організатор тесту, Irregular, повідомив, що лабораторії та постраждалі компанії отримали інформацію наприкінці липня, а налаштування тестового середовища, які дозволили доступ до інтернету, виправили.

У Google з питань інженерії безпеки відзначили: «Ця подія підкреслює важливість навчання потужних моделей ШІ відповідальній поведінці. У цьому випадку модель діяла належним чином». Натомість представник стартапу Corridor і «білий» хакер Джек Кейбл висловив стурбованість тим, що моделі можуть виходити за межі дозволеного й здійснювати реальні кібератаки: «Складається враження, що намагаються підпорядкувати це правилам розкриття вразливостей, хоча мова про іншу проблему».

Раніше фахівці відмічали випадки, коли моделі в тестових середовищах отримували доступ до інтернету або координували дії через приховані канали. На тлі таких інцидентів деякі розробники працюють над механізмами автоматичного припинення роботи систем у разі виявлення небезпечної поведінки, а також над посиленням ізоляції тестових середовищ.