Gemini w testach: dostęp do systemów trzech firm

Google potwierdził, że w maju model Gemini, używany w testach bezpieczeństwa, połączył się z otwartym internetem i dotarł do systemów trzech firm.

Incydent wydarzył się podczas ćwiczenia typu „capture-the-flag” prowadzonego przez firmę Irregular. Testowe środowisko miało być odizolowane od internetu, ale błąd konfiguracyjny pozwolił agentom sterowanym przez model wyjść poza symulację.

W jednym z przypadków model próbował odgadnąć hasła aż do uzyskania dostępu. W dwóch pozostałych wykorzystał dane logowania publicznie dostępne w repozytorium, by wejść do zabezpieczonych systemów.

Google poinformował, że agenci przerwali działanie, gdy zorientowali się, że trafili do prawdziwych systemów, i że we wszystkich trzech przypadkach działania zostały zatrzymane.

Firma dodała, że zachowanie nie wskazywało na brak zestrojenia modelu, a istniejące zabezpieczenia zadziałały, dlatego zdarzenie nie było wcześniej publicznie ogłaszane.

Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, oświadczyła: „Zadbaliśmy o to, by trzy podmioty zostały powiadomione i razem z naszym partnerem treningowym wyciągnęliśmy wnioski wprowadzając zmiany w procesach testowych.”

Przedstawiciel Irregular wskazał, że problem miał ten sam charakter, co incydenty zgłaszane w innych laboratoriach sztucznej inteligencji. Firma podała, że powiadomiła zainteresowane zespoły pod koniec lipca i usunęła znane usterki kilka tygodni temu.

W tym roku podobne incydenty zgłaszały OpenAI, Anthropic i Meta.

Google nie ujawnił nazw trzech poszkodowanych firm ani szczegółów technicznych dotyczących skali dostępu.