Wpadka Meta: znak wodny Muse Image ginie po przycięciu

Meta zaprezentowała narzędzie mające rozpoznawać obrazy wygenerowane przez model Muse Image. System wykorzystuje niewidzialny znak wodny nazwany Content Seal, który ma pozwalać na późniejszą weryfikację pochodzenia pliku.

W teście przeprowadzonym na 40 grafikach pierwotne pliki zostały poprawnie rozpoznane. Po przycięciu obrazów do około jednej trzeciej lub połowy pierwotnego rozmiaru w 55 proc. przypadków detektor nie potwierdził pochodzenia jako wygenerowanego przez model.

Meta umieszcza w wygenerowanych grafikach Content Seal i informuje, że mechanizm może działać także po wykadrowaniu. Firma zaznacza jednocześnie, że narzędzie jest w fazie testów i że intensywne modyfikacje pliku mogą osłabić lub usunąć sygnał.

Typowe operacje wykonywane na telefonach i przez platformy społecznościowe — przycinanie, kompresja, skalowanie i dopasowanie formatów — mogą dodatkowo utrudniać wykrycie niewidzialnego znaku. Przycinanie można wykonać w kilka sekund na dowolnym urządzeniu, a automatyczne przetwarzanie plików przez serwisy społecznościowe zmienia rozmiar i jakość obrazów.

Profesor Siwei Lyu z Uniwersytetu Stanu Nowy Jork w Buffalo zauważa, że skuteczność niewidzialnych znaków wodnych spada po kadrowaniu, zmianie rozmiaru, mocnej kompresji lub edycji obrazu.

Meta zarządza serwisami, na których zmodyfikowane obrazy mogą szybko docierać do dużej liczby odbiorców. Firma wskazała też, że brak wykrytego znaku nie dowodzi, że fotografia jest autentyczna. Problemy z odpornością znaków wodnych występują także w innych systemach wykrywania obrazów; proste operacje edycyjne i kompresja pozostają czynnikami wpływającymi na skuteczność detektorów.