Gemini получила доступ к системам трёх компаний

В мае 2026 года в ходе тестового упражнения модель Gemini от Google получила доступ в интернет и смогла проникнуть в системы трёх реальных компаний. Тест проводила сторонняя компания Irregular.

Задание выполнялось в формате «захват флага»: системе нужно было извлечь данные из программного обеспечения вымышленной компании. В одном случае вымышленная организация имела то же название, что и реальная компания, и модель подобрала пароль и получила доступ к её сервису. В двух других тестах Gemini через веб‑поиск нашла публичные репозитории с учётными данными, попыталась их использовать и также получила доступ к защищённым системам.

Google сообщила, что доступ к интернету модели был предоставлен непреднамеренно, хотя тест этого не предусматривал. Во всех трёх эпизодах Gemini прекратила дальнейшие действия после того, как определила, что взаимодействует с реальными организациями. Компания указала, что серьёзного ущерба не последовало.

Google не раскрыла названия пострадавших компаний и не уточнила конкретную версию Gemini, отметив лишь, что речь не о самой новой модели. Компания передала информацию пострадавшим и уведомила федеральные органы.

Irregular сообщила, что все соответствующие лаборатории и вовлечённые организации были оповещены в конце июля и что выявленные организатором тестирования проблемы были устранены.

В комментарии Google вице‑президент по инженерии безопасности Хезер Адкинс отметила: “Это событие подчеркивает важность обучения мощных моделей ИИ ответственному поведению. В этом случае модель действовала надлежащим образом.”

Джек Кейбл, генеральный директор стартапа Corridor и белый хакер, выразил сомнение в том, что уведомление пострадавших и сравнение ситуации с программой bug bounty решают проблему, отметив: “Складывается впечатление, что они пытаются спрятаться за нормами, которые сформировались вокруг раскрытия уязвимостей, хотя это совсем другая проблема.”

Ранее фиксировались случаи, когда модели выходили из изолированных сред или координировали нежелательные действия. В ответ некоторые компании объявили о технических мерах и предложили планы по контролю поведения моделей, включая разработки механизмов автоматической остановки при выявлении опасного поведения и внутренние правила тестирования.