Jak dostrzec Deepfakes i obrazy generowane przez AI: przewodnik krok po kroku
Opublikowano:
W skrócie
Niezawodne zidentyfikowanie deepfake'a lub obrazu wygenerowanego przez AI wymaga połączenia wizualnych kontroli, narzędzi weryfikacji pochodzenia, takich jak Content Credentials lub SynthID, i wyszukiwania wstecznego — żadna pojedyncza metoda nie łapie każdego fałszu. Naukowcy zajmujący się detekcją ostrzegają, że zautomatyzowane narzędzia mogą być oszukane prostymi edycjami, takimi jak przycinanie lub kompresja, dlatego weryfikacja kontekstu pozostaje niezbędna.
Ta wersja jest tłumaczeniem maszynowym oryginału (English). Przeczytaj oryginał
Nie istnieje jedno narzędzie, które łapie każdy deepfake lub obraz generowany przez AI. Firma cyberbezpieczeństwa ESET i Instytut Badań Dziennikarstwa Reutersa na Uniwersytecie Oksfordzkim zarówno rekomendują użycie kilku kontroli — wizualną inspekcję, metadane pochodzenia, detekcję znaków wodnych i weryfikację źródła — ponieważ każda metoda ma znane słabe punkty.
Krok 1: Szukaj wizualnych i audio niezgodności
Przewodnik ESET dotyczący rozpoznawania dezinformacji generowanej przez AI zawiera konkretne wizualne wskazówki do sprawdzenia w pierwszej kolejności: nienaturalne oświetlenie, nadmiernie gładką teksturę skóry, migające krawędzie i rozmyte tła. Anomalie twarzy, na które warto zwrócić uwagę, to źle wyrównane oczy, zniekształcone zęby i niezwykłe wzorce mrugania. Dla wideo niezgodność między audio a ruchami ust mówcy jest częstym znakiem manipulacji, według ESET.
ESET zauważa również, że narzędzia używane do tworzenia deepfake'ów często zmieniają lub usuwają daty utworzenia i modyfikacji pliku, dlatego niespójne metadane mogą być dodatkową wskazówką.
Krok 2: Sprawdź Content Credentials (C2PA)
Content Credentials, oparte na standardzie technicznym C2PA, rejestrują informacje o obrazie w momencie jego utworzenia przez kryptograficzne podpisanie go, zgodnie z Inicjatywą Autentyczności Treści (CAI). CAI opisuje ten zapis jako rodzaj etykiety wartości odżywczych dla treści cyfrowych, pokazującej twórcę, oprogramowanie lub narzędzie AI, które zostało użyte, oraz czy plik został wygenerowany lub edytowany za pomocą AI, jeśli ta informacja została uwzględniona przez twórcę.
CAI wyraźnie stwierdza, że Content Credentials nie mają na celu deklarowania, czy treść jest "rzeczywista": dostarczają one kontekstu dotyczącego pochodzenia, a nie orzeczenia. System działa również tylko wtedy, gdy narzędzie tworzące faktycznie osadza manifest.
Krok 3: Sprawdź niewidoczny znak wodny, taki jak SynthID
SynthID firmy Google osadza ledwo dostrzegalny cyfrowy znak wodny bezpośrednio w pikselach obrazów generowanych przez jej model Imagen, zgodnie z Google DeepMind. Osobny model detekcji skanuje obraz w poszukiwaniu tego wzorca i zgłasza jeden z trzech wyników: wykryto znak wodny (prawdopodobnie wygenerowany przez AI), nie wykryto (mało prawdopodobne, że wygenerowany przez AI), lub możliwie wykryto, w którym to przypadku DeepMind zaleca ostrożne traktowanie wyniku.
DeepMind mówi, że znak wodny SynthID jest zaprojektowany tak, aby przetrwać typowe edycje, takie jak filtrowanie, dostosowanie kolorów, rotacja i kompresja JPEG. Jednak oznacza tylko obrazy, które zostały oznaczone przy tworzeniu przez Imagen lub partnerskie narzędzia wykorzystujące SynthID — obraz z modelu, która nie używa SynthID, zwróci wynik "nie wykryto", nawet jeśli został wygenerowany przez AI, pokazuje dokumentacja DeepMind.
Krok 4: Wykonaj wyszukiwanie wsteczne obrazu
Narzędzia wyszukiwania wstecznego, takie jak Google Lens lub TinEye, mogą ujawnić, czy obraz krążył wcześniej w innym kontekście, co jest jednym z najbardziej niezawodnych sposobów na wyłapanie przetworzonych lub przeznaczonych wizualizacji, zgodnie z badaczami z Instytutu Badań Dziennikarstwa Reutersa. Jeśli ten sam obraz pojawia się dołączony do starego, niepowiązanego artykułu, to jest silny sygnał, że obecne stwierdzenie na jego temat jest fałszywe, niezależnie od tego, czy sam obraz został wygenerowany przez AI.
Dlaczego zautomatyzowane detektory wciąż mogą być oszukane
Przegląd narzędzi do detekcji AI przeprowadzony przez Instytut Badań Dziennikarstwa Reutersa wykazał, że proste edycje rutynowo je pokonują. Kiedy naukowcy przycięli i przeskalowali wiralny obraz rzekomo pokazujący eksplozję w Pentagonie, oprogramowanie do detekcji zaklasyfikowało zmienioną wersję jako autentyczną. Obniżenie rozdzielczości i przycięcie słynnego deepfake'a wideo Obamy dały podobne wyniki fałszywych negatywów, a kompresja w mediach społecznych wygenerowanego przez AI nagrania rozmowy Bidena spowodowała, że jeden detektor nazwał kopię "wysoce prawdopodobnie rzeczywistą", podczas gdy oryginalny nieskompresowany plik uzyskał 74% szans na to, że jest fałszywy.
Przegląd wykazał również, że detektory wytrenowane głównie na znanych osobach publicznych, takich jak głowa państwa, działały gorzej na mniej znanych osobach z małą obecnością online, ponieważ bazowe modele miały mniej zweryfikowanych danych referencyjnych do porównania.
Łączenie wszystkiego razem
Sprawdź obraz lub wideo pod kątem wizualnych i audio niezgodności wymienionych przez ESET, takich jak nienaturalne oświetlenie, wzorce mrugania lub niedopasowanie synchronizacji ust.
Sprawdź, czy plik zawiera metadane Content Credentials (C2PA) ujawniające generowanie przez AI.
Jeśli obraz może pochodzić z modelu Google, sprawdź go za pomocą detektora SynthID od Google, aby uzyskać wynik znaku wodnego.
Wykonaj wyszukiwanie wsteczne za pomocą Google Lens lub TinEye, aby zobaczyć, czy obraz pojawił się gdzie indziej w innym kontekście.
Traktuj dowolny pojedynczy wynik jako niekonkluzywny sam w sobie i porównaj roszczenie z relacją z ustalonych organizacji informacyjnych przed jego udostępnieniem, jak radzą Instytut Badań Dziennikarstwa Reutersa i ESET.
Narzędzia detekcji obliczeniowej mogą być doskonałym punktem wyjścia jako część procesu weryfikacji, wraz z innymi technikami o otwartym kodzie źródłowym.
— Instytut Badań Dziennikarstwa Reutersa, Uniwersytet Oksfordzki
Pytania
Czy jedno zastosowanie lub strona internetowa może niezawodnie powiedzieć mi, czy obraz jest deepfake'iem?
Nie. ESET i Instytut Badań Dziennikarstwa Reutersa zarówno zgłaszają, że indywidualne narzędzia detekcji mogą być oszukane prostymi edycjami, takimi jak przycinanie, zmiana rozmiaru lub kompresja, dlatego wyniki z któregokolwiek jednego narzędzia należy traktować jako punkt wyjścia, a nie ostateczną odpowiedź.
Jaka jest różnica między Content Credentials i SynthID?
Content Credentials (C2PA) to metadane, które narzędzie tworzące dobrowolnie dołącza, deklarując, jak plik został utworzony; SynthID to niewidoczny znak wodny na poziomie pikseli osadzony przez model Imagen firmy Google i sprawdzany za pomocą osobnego detektora. Oba mogą być nieobecne nawet na prawdziwie wygenerowanych przez AI obrazach, jeśli narzędzie tworzące ich nie obsługuje lub metadane zostały usunięte.
Dlaczego detektory deepfake'ów czasami mówią, że prawdziwy obraz AI jest autentyczny?
Instytut Badań Dziennikarstwa Reutersa stwierdził, że edycje, takie jak przycinanie, obniżenie rozdzielczości lub ponowna kompresja pliku dla mediów społecznych, mogą przesunąć wynik detektora w kierunku "autentyczności", nawet jeśli bazowa treść jest generowana lub manipulowana przez AI.
Jakie znaki wizualne powinienem szukać w pierwszej kolejności w podejrzanym deepfake'u wideo?
ESET zaleca sprawdzenie spójności oświetlenia, tekstury skóry, wyrównania oczu, wzorów mrugania i tego, czy dźwięk pasuje do ruchów ust mówcy.
Czy wyszukiwanie wsteczne obrazu wykrywa generowanie przez AI?
Nie bezpośrednio — wykrywa, czy obraz pojawił się wcześniej w Internecie w innym kontekście, co, jak zauważa Instytut Badań Dziennikarstwa Reutersa, jest przydatne do wyłapania przetworzonych rzeczywistych zdjęć opisywanych nieprawidłowo, niezależnie od detekcji generacji przez AI.
Ten tekst przygotowała sztuczna inteligencja, a przed publikacją przeszedł automatyczną kontrolę źródeł. Jeśli widzisz błąd, poproś o sprostowanie. Poproś o sprostowanie lub odpowiedź · Jak to robimy
Geoffrey Hinton, laureat Nagrody Nobla w dziedzinie informatyki, znany jako «ojciec chrzestny sztucznej inteligencji», twierdzi, że najlepszą szansą przetrwania ludzkości w obliczu coraz bardziej inteligentnych maszyn jest zaprojektowanie ich tak, aby naprawdę dbały o ludzi, a nie tylko ich posłuszały. Przemawiając na Festiwalu Starmus na Teneryfie w październiku 2026 roku, Hinton ostrzegał, że bez tej zmiany ludzkość będzie mieć poważne konsekwencje.
Laboratorium badań sztucznej inteligencji Flapping Airplanes, z siedzibą w San Francisco, pozyskało 1 miliard dolarów w rundzie Series A, podnosząc swoją wycenę do 6 miliardów dolarów, około czterech razy wyższą niż 1,5 miliarda dolarów, którą osiągnęła po rundzie seed w wysokości 180 milionów dolarów w stycznia 2026 roku. Roczny startup nie ma jeszcze komercyjnego produktu i skupia się na uczynieniu trenowania modeli AI mniej zależnym od ogromnych ilości danych i mocy obliczeniowej.
Narzędzia generacyjnej sztucznej inteligencji, takie jak chatboty, generatory obrazów i asystenci kodowania, konwertują dane wejściowe na dane numeryczne, a następnie budują wynik krok po kroku, używając wzorów wyuczonych z dużych zestawów danych treningowych. Narzędzia tekstowe i kodowe przewidują następny token w sekwencji, używając modeli transformer, podczas gdy narzędzia obrazowe, takie jak Imagen, stopniowo usuwają szum z losowego wzorca, aż pojawi się obraz pasujący do zachęty tekstowej.
Chatboty AI są zbudowane na podstawie dużych modeli językowych (LLM), sieci neuronowych przeszkolonych do przewidywania następnego "tokenu" w sekwencji tekstu. Zamieniają słowa na liczby, używają mechanizmu uwagi do ważenia tego, jak słowa się do siebie odnoszą, a następnie są dostrajane za pomocą informacji zwrotnych od ludzi, aby zachowywać się jak pomocni asystenci, a nie jak surowe predyktory tekstu.
