Wie man KI-generierte Bilder und Deepfakes erkennt: Eine Schritt-für-Schritt-Anleitung

Es gibt keinen einzigen narrensicheren Test, um ein echtes Foto von einem KI-generierten zu unterscheiden. Stattdessen empfehlen Forscher und Fact-Checking-Organisationen, mehrere Überprüfungen zu kombinieren – visuelle Inspektion, Metadaten, Ursprungsdaten und Rückwärtsbildsuche – da jede Methode andere Arten von Fälschungen erkennt und jede einzeln überlistet werden kann.

Schritt 1: Schauen Sie sich das Bild genau an

Das Cybersicherheitsunternehmen ESET empfiehlt, mit einer genauen visuellen Lektüre des Bildes zu beginnen. Warnsignale sind unnatürliche Beleuchtung, übermäßig glatte Hautstrukturen, flimmernde oder unscharfe Kanten um ein Motiv, nicht ausgerichtete Augen, verzerrte Zähne und ungewöhnliche Blinkbewegungen im Video. Bei Videos mit Ton überprüfen Sie, ob der Ton den Mundbewegungen entspricht, da Unstimmigkeiten ein häufiges Deepfake-Erkennungszeichen sind, sagt ESET.

Schritt 2: Überprüfen Sie die Metadaten

ESET rät, die Metadaten einer Datei zu überprüfen, einschließlich Erstellungs- und Änderungsdaten, da Deepfake-Werkzeuge diese Informationen häufig entfernen oder ändern, was Unstimmigkeiten verursachen kann, die es wert sind, beachtet zu werden. Das Fehlen von erwarteten Kamera- oder Geräteinformationen oder das Vorhandensein von KI-Bearbeitungssoftware-Namen in den Dateidaten kann ein Hinweis sein, obwohl Metadaten auch entfernt oder gefälscht werden können und nicht als endgültig behandelt werden sollten.

Schritt 3: Verwenden Sie die Rückwärtsbildsuche

Wenn Sie das Bild durch ein Rückwärtsbildsuche-Werkzeug wie Google Images oder TinEye führen, können Sie feststellen, ob das Bild bereits online erschienen ist, in welchem Kontext und wann – um zu bestätigen, ob es sich um ein altes Foto handelt, das mit einer falschen Behauptung verbreitet wird, oder um ein genuines neues Bild, bemerkt ESET.

Schritt 4: Überprüfen Sie Content Credentials oder Wasserzeichen

Die Content Authenticity Initiative (CAI), die Gruppe hinter dem C2PA-Standard, beschreibt Content Credentials als eine Art "Nährwertkennzeichnung" für digitale Inhalte: kryptografisch signierte Metadaten, die aufzeichnen können, wer ein Bild erstellt hat, wann, mit welchen Werkzeugen und ob KI beteiligt war. Die Credentials sind manipulationssicher – wenn das Bild oder seine angehängten Daten nach der Signierung geändert werden, werden die Content Credentials diese Änderung kennzeichnen, so die CAI.

Die CAI ist jedoch explizit über die Grenzen: Content Credentials erklären nicht, dass Inhalte gefälscht oder verändert sind, und sie beruhen darauf, dass das Erstellungswerkzeug die Credentials überhaupt erst hinzugefügt hat. Ein KI-Bild, das mit einem Werkzeug erstellt wurde, das C2PA nicht unterstützt, trägt überhaupt kein solches Etikett.

Google DeepMind's SynthID funktioniert anders: Es bettet ein unsichtbares digitales Wasserzeichen direkt in die Pixel eines Bildes ein, wenn das Bild mit Googles Imagen-Modell erstellt wird. Google sagt, das Wasserzeichen übersteht häufige Bearbeitungen wie Filter, Farbänderungen, Kompression und Helligkeitsanpassungen, und ein Erkennungswerkzeug gibt eines von drei Ergebnissen zurück – "erkannt", "nicht erkannt" oder "möglicherweise erkannt". SynthID's Wasserzeichen funktioniert nur bei Bildern, die von Googles eigenen Modellen erzeugt werden; es kann Inhalte, die von anderen Generatoren wie Midjourney oder Stable Diffusion erzeugt wurden, nicht identifizieren, so DeepMind.

Schritt 5: Behandeln Sie automatisierte Erkennungswerkzeuge mit Vorsicht

Eine Bewertung von Forschern der Organisation WITNESS, veröffentlicht vom Reuters Institute for the Study of Journalism im April 2024, untersuchte Tests, die im Februar 2024 an acht öffentlich verfügbaren Deepfake-Erkennern durchgeführt wurden – Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID und ein Open-Source-KI-Bilderkenner. Sie stellte fest, dass Erkennungswerkzeuge nur so gut funktionieren wie die Daten, auf denen sie trainiert wurden: Ein Erkennungswerkzeug, das zum Erkennen von KI-generierten Bildern trainiert wurde, könnte bei Face-Swap-Deepfakes fehlschlagen, und Werkzeuge, die hauptsächlich auf bekannte öffentliche Personen wie Volodymyr Zelenskyy trainiert wurden, hatten Schwierigkeiten mit weniger berühmten Personen.

Die gleiche Bewertung stellte fest, dass einfache Bearbeitungen Erkennungswerkzeuge besiegen konnten. Das Zuschneiden, Komprimieren oder Verringern der Auflösung eines Bildes führte bei einigen Werkzeugen dazu, dass synthetische Inhalte als real fehlklassifiziert wurden; nachdem die Auflösung eines bekannten Obama-Deepfake-Videos verringert und ein Teil des Clips bearbeitet wurde, gab ein Erkennungswerkzeug ein Ergebnis von "Kein Deepfake erkannt" zurück. Screenshots von KI-generierten Avataren wurden ebenfalls häufig als von Menschen hergestellt fehlklassifiziert, so die Bewertung.

Alles zusammenfügen

1. Überprüfen Sie das Bild genau auf Beleuchtungs-, Struktur-, Augen-, Hand- und Hintergrundinkonsistenzen.
2. Überprüfen Sie verfügbare Metadaten (Kameramodell, Daten, Software) auf Anomalien.
3. Führen Sie eine Rückwärtsbildsuche durch, um zu sehen, wo und wann das Bild zuerst erschien.
4. Suchen Sie nach Content Credentials (C2PA) oder einem SynthID-Wasserzeichen, sofern zutreffend, und verstehen Sie, dass keine alle KI-Werkzeuge abdeckt.
5. Behandeln Sie das Ergebnis eines automatisierten Erkennungswerkzeugs als eine Eingabe unter mehreren, nicht als endgültiges Urteil – WITNESS-Forscher stellen fest, dass solche Werkzeuge am besten zusammen mit anderen Techniken wie Rückwärtsbildsuche und Geolokalisierung funktionieren, nicht als eigenständige Lösung.
6. Überprüfen Sie die dem Bild beigefügte Behauptung anhand seriöser Nachrichtenorganisationen oder Fact-Checking-Seiten.

Keine Methode auf dieser Liste ist für sich allein ausreichend. Die CAI, ESET und die WITNESS/Reuters Institute-Bewertung kommen alle zu dem gleichen Ergebnis: Ursprungsdaten, Wasserzeichen und automatisierte Erkennungswerkzeuge decken jeweils nur einen Teil des Problems ab, und die Kombination mehrerer Überprüfungen – plus gewöhnliche Skepsis darüber, woher ein Bild stammt und wer es teilt – bleibt heute der zuverlässigste verfügbare Ansatz.