Jak rozpoznać obrazy generowane przez sztuczną inteligencję i deepfake'i: przewodnik krok po kroku

Nie ma jednego niezawodnego testu do rozróżnienia rzeczywistej fotografii od obrazu wygenerowanego przez sztuczną inteligencję. Zamiast tego badacze i organizacje zajmujące się sprawdzaniem faktów zalecają nakładanie wielu sprawdzeń — inspekcję wizualną, metadane, dane pochodzenia i wyszukiwanie obrazu odwrotnie — ponieważ każda metoda wyłapuje różne rodzaje fałszerstw i każda może być oszukana sama w sobie.

Krok 1: Uważnie spójrz na sam obraz

Firma cyberbezpieczeństwa ESET zaleca rozpoczęcie od dokładnego wizualnego przeanalizowania obrazu. Sygnały ostrzegawcze obejmują nienaturalne oświetlenie, nadmiernie gładką teksturę skóry, migotanie lub rozmyte krawędzie wokół obiektu, źle wyrównane oczy, zniekształcone zęby i niezwykłe wzorce mrugania w wideo. W przypadku wideo z dźwiękiem sprawdź, czy dźwięk pasuje do ruchów ust, ponieważ niezgodności są częstym objawem deepfake'a, mówi ESET.

Krok 2: Sprawdź metadane

ESET zaleca przeglądanie metadanych pliku, w tym dat utworzenia i modyfikacji, ponieważ narzędzia deepfake'ów często usuwają lub zmieniają te informacje, co może spowodować niezgodności warte odnotowania. Brak oczekiwanych informacji o aparacie lub urządzeniu, lub obecność nazw oprogramowania do edycji sztucznej inteligencji w danych pliku może być wskazówką, chociaż metadane można również usunąć lub sfałszować i nie powinny być traktowane jako ostateczne same w sobie.

Krok 3: Używaj wyszukiwania obrazu odwrotnie

Uruchomienie obrazu za pomocą narzędzia do wyszukiwania obrazu odwrotnie, takiego jak Google Images lub TinEye, może ujawnić, czy obraz pojawił się gdzie indziej w Internecie, w jakim kontekście i kiedy — pomagając potwierdzić, czy jest to stara fotografia rozpowszechniana z fałszywym twierdzeniem, czy naprawdę nowy obraz, odnotowuje ESET.

Krok 4: Sprawdź poświadczenia treści lub znaki wodne

Content Authenticity Initiative (CAI), grupa stojąca za standardem C2PA, opisuje Content Credentials jako rodzaj "etykiety odżywczej" dla treści cyfrowych: kryptograficznie podpisane metadane, które mogą rejestrować, kto stworzył obraz, kiedy, za pomocą jakich narzędzi i czy zaangażowana była sztuczna inteligencja. Poświadczenia są odporne na manipulacje — jeśli obraz lub jego dołączone dane zostaną zmienione po podpisaniu, Content Credentials będą oznaczać tę zmianę, zgodnie z CAI.

Jednak CAI wyraźnie określa ograniczenia: Content Credentials nie stwierdzają, że treść jest fałszywa lub zmieniona, i polegają na tym, że narzędzie tworzące dodało poświadczenia w pierwszej kolejności. Obraz utworzony za pomocą sztucznej inteligencji utworzony za pomocą narzędzia, które nie obsługuje C2PA, w ogóle nie będzie miał takiej etykiety.

SynthID firmy Google DeepMind działa inaczej: wbudowuje niewidoczny cyfrowy znak wodny bezpośrednio w piksele obrazu, gdy obraz jest tworzony za pomocą modelu Imagen od Google. Google mówi, że znak wodny przetrwa typowe edycje, takie jak filtry, zmiany kolorów, kompresja i dostosowanie jasności, a narzędzie do wykrywania zwraca jeden z trzech wyników — "wykryto", "nie wykryto" lub "możliwie wykryto". Znak wodny SynthID działa tylko na obrazach tworzonych przez własne modele Google; nie może zidentyfikować treści tworzonych przez inne generatory, takie jak Midjourney lub Stable Diffusion, zgodnie z DeepMind.

Krok 5: Ostrożnie podchodź do automatycznych narzędzi do wykrywania

Ocena badaczy z organizacji WITNESS, opublikowana przez Reuters Institute for the Study of Journalism w kwietnia 2024 roku, badała testy przeprowadzone w lutym 2024 roku na ośmiu publicznie dostępnych detektorach deepfake'ów — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID i detektorze obrazów sztucznej inteligencji typu open source. Stwierdzono, że narzędzia do wykrywania działają tak dobrze, jak dane, na których były szkolone: detektor wytrenowany do rozpoznawania obrazów generowanych przez sztuczną inteligencję może zawieść na deepfake'ach zamiany twarzy, a narzędzia szkolone głównie na znanych osobach publicznych, takich jak Wołodymyr Zełenski, miały trudności z mniej znanymi osobami.

Ta sama ocena wykazała, że proste edycje mogą pokonać detektory. Przycięcie, kompresja lub zmniejszenie rozdzielczości obrazu spowodowało, że niektóre narzędzia błędnie zaklasyfikowały zawartość syntetyczną jako rzeczywistą; po zmniejszeniu rozdzielczości słynnego filmiku deepfake'a Obamy i edycji części klipu detektor zwrócił wynik "Nie wykryto Deepfake". Zrzuty ekranu awatarów generowanych przez sztuczną inteligencję również często były błędnie klasyfikowane jako wykonane przez człowieka, wykazała ocena.

Łącząc to wszystko razem

1. Dokładnie przeanalizuj obraz pod kątem niespójności w oświetleniu, teksturze, oczach, rękach i tle.
2. Sprawdź dostępne metadane (model aparatu, daty, oprogramowanie) pod kątem anomalii.
3. Uruchom wyszukiwanie obrazu odwrotnie, aby zobaczyć, gdzie i kiedy obraz po raz pierwszy się pojawił.
4. Poszukaj Content Credentials (C2PA) lub znaku wodnego SynthID tam, gdzie mają zastosowanie, rozumiejąc, że żaden z nich nie obejmuje każdego narzędzia sztucznej inteligencji.
5. Jeśli używasz automatycznego detektora, traktuj jego wynik jako jeden z kilku wejść, a nie ostateczny werdykt — badacze WITNESS zauważają, że takie narzędzia działają najlepiej obok innych technik, takich jak wyszukiwanie obrazu odwrotnie i geolokalizacja, a nie jako samodzielne rozwiązanie.
6. Przeszkód twierdzenie dołączone do obrazu względem renomowanych organizacji informacyjnych lub witryn sprawdzających fakty.

Żadna z metod na tej liście nie jest wystarczająca sama w sobie. CAI, ESET i ocena WITNESS/Reuters Institute dochodzą do tego samego wniosku: dane pochodzenia, znaki wodne i automatyczne detektory obejmują każdy tylko część problemu, a łączenie kilku sprawdzeń — plus zwykły sceptycyzm wobec pochodzenia obrazu i tego, kto go udostępnia — pozostaje najbardziej niezawodnym podejściem dostępnym dzisiaj.