So erkennen Sie Deepfakes und KI-generierte Bilder: Ein Schritt-für-Schritt-Leitfaden

Es gibt kein einzelnes Tool, das jeden Deepfake oder jedes KI-generierte Bild erfasst. Das Cybersicherheitsunternehmen ESET und das Reuters Institute for the Study of Journalism an der University of Oxford empfehlen beide, mehrere Überprüfungen zu kombinieren – visuelle Inspektion, Herkunftsmetadaten, Wasserzeichenerkennung und Quellenverifizierung – da jedes Verfahren bekannte Schwachstellen hat.

Schritt 1: Achten Sie auf visuelle und akustische Unstimmigkeiten

ESETs Leitfaden zur Identifizierung von KI-generierten Falschinformationen listet konkrete visuelle Anhaltspunkte auf, die zuerst überprüft werden sollten: unnatürliche Beleuchtung, übermäßig glatte Hautstrukturen, flackernde Kanten und unscharfe Hintergründe. Zu überprüfende Gesichtsanomalien gehören versetzte Augen, verzerrte Zähne und ungewöhnliche Augenzwinkermuster. Für Videos ist eine Nichtübereinstimmung zwischen dem Audio und den Lippenbewegungen des Sprechers ein häufiges Zeichen für Manipulation, wie ESET erklärt.

ESET weist auch darauf hin, dass Tools zur Erstellung von Deepfakes häufig die Erstellungs- und Änderungsdaten einer Datei ändern oder löschen, sodass inkonsistente Metadaten ein sekundärer Anhaltspunkt sein können.

Schritt 2: Überprüfen Sie auf Content Credentials (C2PA)

Content Credentials basieren auf dem C2PA-Technikstandard und zeichnen Informationen über ein Bild zum Zeitpunkt seiner Erstellung auf, indem sie es kryptografisch signieren, wie die Content Authenticity Initiative (CAI) erklärt. Die CAI beschreibt diesen Datensatz als eine Art Nährwertkennzeichnung für digitale Inhalte, die den Ersteller, die verwendete Software oder das KI-Tool und ob die Datei mit KI generiert oder bearbeitet wurde, anzeigt, sofern diese Informationen vom Ersteller enthalten waren.

Die CAI ist eindeutig, dass Content Credentials nicht dazu bestimmt sind, zu erklären, ob Inhalte "echt" sind: Sie bieten Kontext über die Herkunft, keine Aussage. Das System funktioniert auch nur, wenn das erstellende Tool tatsächlich ein Manifest einbettet.

Schritt 3: Überprüfen Sie auf ein unsichtbares Wasserzeichen wie SynthID

Googles SynthID bettet ein kaum wahrnehmbares digitales Wasserzeichen direkt in die Pixel von Bildern ein, die von seinem Imagen-Modell generiert werden, wie Google DeepMind erklärt. Ein separates Erkennungsmodell scannt ein Bild nach diesem Muster und meldet eines von drei Ergebnissen: Wasserzeichen erkannt (wahrscheinlich KI-generiert), nicht erkannt (wahrscheinlich nicht KI-generiert) oder möglicherweise erkannt, in welchem Fall DeepMind empfiehlt, das Ergebnis mit Vorsicht zu behandeln.

DeepMind gibt an, dass das SynthID-Wasserzeichen dazu konzipiert ist, häufige Änderungen wie Filterung, Farbeinstellung, Rotation und JPEG-Komprimierung zu überstehen. Es kennzeichnet jedoch nur Bilder, die bei der Erstellung durch Imagen oder Partner-Tools, die SynthID verwenden, mit Wasserzeichen versehen wurden – ein Bild aus einem Modell, das SynthID nicht verwendet, gibt ein "nicht erkannt"-Ergebnis zurück, auch wenn es KI-generiert ist, wie in der Dokumentation von DeepMind gezeigt.

Schritt 4: Führen Sie eine Reverse-Image-Search durch

Reverse-Image-Search-Tools wie Google Lens oder TinEye können zeigen, ob ein Bild zuvor in einem anderen Kontext zirkulierte, was nach Ansicht von Forschern des Reuters Institute eine der zuverlässigsten Methoden ist, um recycelte oder neu gekennzeichnete Bilder zu erfassen. Wenn dieselbe Aufnahme mit einer älteren, unabhängigen Geschichte verbunden ist, ist das ein starkes Signal, dass die aktuelle Aussage darüber falsch ist, unabhängig davon, ob das Bild selbst KI-generiert wurde.

Warum automatisierte Detektoren immer noch überlistet werden können

Die Überprüfung der Reuters Institute von KI-Erkennungstools zeigte, dass einfache Änderungen sie routinemäßig besiegen. Als Forscher ein virales Bild, das angeblich eine Pentagon-Explosion zeigte, zuschnitten und skaliert hatten, klassifizierte Erkennungssoftware die veränderte Version als authentisch. Das Senken der Auflösung und das Trimmen eines bekannten Obama-Deepfake-Videos führten zu ähnlichen falschen Negativen, und die Komprimierung von Sozialen Medien eines KI-generierten Biden-Robocalls führte dazu, dass ein Detektor eine Kopie als "sehr wahrscheinlich echt" klassifizierte, während die ursprüngliche unkomprimierte Datei 74% wahrscheinlich gefälscht war.

Die Überprüfung ergab auch, dass Detektoren, die hauptsächlich auf bekannte öffentliche Figuren wie einen Staatschef trainiert wurden, bei weniger bekannten Personen mit wenig Online-Präsenz schlechter abschnitten, weil die zugrunde liegenden Modelle weniger überprüfte Referenzdaten zum Vergleich hatten.

Zusammenfassung

1. Überprüfen Sie das Bild oder Video auf die visuellen und akustischen Unstimmigkeiten, die ESET auflistet, wie unnatürliche Beleuchtung, Augenzwinkermuster oder Lippensynchronisationsfehler.
2. Überprüfen Sie, ob die Datei Content Credentials (C2PA)-Metadaten trägt, die KI-Generierung offenlegen.
3. Wenn das Bild von einem Google-Modell stammen könnte, überprüfen Sie es mit Googles SynthID-Detektor auf ein Wasserzeichenergebnis.
4. Führen Sie eine Reverse-Image-Search mit Google Lens oder TinEye durch, um zu sehen, ob das Bild anderswo in einem anderen Kontext erschienen ist.
5. Behandeln Sie jedes einzelne Ergebnis für sich genommen als vorläufig und vergleichen Sie die Aussage mit der Berichterstattung etablierter Nachrichtenorganisationen, bevor Sie sie teilen, wie das Reuters Institute und ESET beide raten.