Google zablokowało edycję obrazów AI w Google Earth

Google dodało do ostatniej aktualizacji Google Earth narzędzie umożliwiające edycję zdjęć terenu z użyciem sztucznej inteligencji. Funkcja została wyłączona przez firmę mniej niż 24 godziny po udostępnieniu, po tym jak użytkownicy zaczęli publikować zmodyfikowane obrazy o realistycznym wyglądzie.

Opublikowane modyfikacje przedstawiały m.in. samoloty uderzające w wieżowce w centrum dużego miasta, fikcyjne sceny z dużymi zniszczeniami oraz wyraźnie zmienione widoki terenów przy granicy. Kilka udostępnionych grafik przedstawiało grupy osób i instalacje przypominające zakłady przemysłowe, które wyglądały na fotografie satelitarne.

Narzędzie pozwalało generować zmiany terenu i obiektów na istniejących zdjęciach w aplikacji. Firma wcześniej opisała funkcję jako sposób na obejrzenie, jak wyglądały niektóre zabytki w przeszłości. Po fali zmanipulowanych obrazów dostęp do edytora został tymczasowo zablokowany.

W odpowiedzi firma ograniczyła funkcję bez podawania szczegółowego harmonogramu ponownego uruchomienia ani listy planowanych zabezpieczeń. Nie przedstawiono publicznie szczegółowych zasad moderacji ani technicznych ograniczeń zapobiegających tworzeniu wprowadzających w błąd grafik.

Specjaliści i komentatorzy zwracali uwagę na ryzyko powstania wiarygodnych fałszywych materiałów w aplikacji o globalnym zasięgu. W takich przypadkach weryfikacja pochodzenia obrazu może być utrudniona, zwłaszcza gdy edytowane grafiki prezentowane są obok rzeczywistych zdjęć satelitarnych.

Użytkownicy i obserwatorzy oczekują informacji o poprawkach, filtrach automatycznych i ewentualnych ograniczeniach dostępu, które miałyby zapobiegać tworzeniu obrazów mogących być odebranymi jako autentyczne. Firma nie przekazała dodatkowych szczegółów na temat planów wprowadzenia takich rozwiązań.