Hoe u door AI gegenereerde afbeeldingen en deepfakes kunt herkennen: een stap-voor-stap gids

Er is geen enkele foolproof test om een echte foto van een door AI gegenereerde te onderscheiden. In plaats daarvan bevelen onderzoekers en feitencontroleringsorganisaties aan om meerdere controles te combineren – visuele inspectie, metadata, herkomstgegevens en omgekeerde afbeeldingszoekopdracht – omdat elke methode verschillende soorten vervalsingen vangt en elk afzonderlijk kan worden bedrogen.

Stap 1: kijk goed naar de afbeelding zelf

Cybersecurity bedrijf ESET adviseert om te beginnen met een nauwkeurig visueel onderzoek van de afbeelding. Waarschuwingstekens zijn onnatuurlijke verlichting, overdreven gladde huidtexturen, flikkerende of wazig randen rond een onderwerp, verkeerd uitgelijnde ogen, vervormd tandvlees en ongebruikelijke knipperpatornen in video. Voor video met geluid controleert u of de audio overeenkomt met de mondbewegingen, omdat niet-overeenkomsten een veelgebruikt deepfake-merkteken zijn, zegt ESET.

Stap 2: controleer de metadata

ESET adviseert om de metadata van een bestand te controleren, inclusief aanmaak- en wijzigingsdatums, omdat deepfake-tools deze informatie vaak verwijderen of wijzigen, wat inconsistenties kan veroorzaken die opgemerkt moeten worden. De afwezigheid van verwachte camera- of apparaatgegevens, of de aanwezigheid van AI-bewerkingssoftwarenamen in de bestandsgegevens, kan een aanwijzing zijn, hoewel metadata ook kan worden verwijderd of vervalst en niet als definitief op zichzelf moet worden behandeld.

Stap 3: gebruik de omgekeerde afbeeldingszoekopdracht

Als u de afbeelding door een omgekeerde afbeeldingszoekhulpprogramma zoals Google Afbeeldingen of TinEye voert, kunt u zien of de afbeelding elders online is verschenen, in welke context en wanneer – hetgeen helpt bevestigen of het een oud foto is die opnieuw circuleert met een valse bewering of een echt nieuw beeld, merkt ESET op.

Stap 4: controleer op Content Credentials of watermerken

De Content Authenticity Initiative (CAI), de groep achter de C2PA-standaard, beschrijft Content Credentials als een soort "voedingsetiket" voor digitale inhoud: cryptografisch ondertekende metadata die kan vastleggen wie een afbeelding heeft gemaakt, wanneer, met welke tools en of AI betrokken was. De gegevens zijn manipulatiebestendig – als de afbeelding of de bijbehorende gegevens na ondertekening worden gewijzigd, zullen de Content Credentials die wijziging markeren, aldus de CAI.

De CAI is echter expliciet over de beperkingen: Content Credentials verklaren niet dat inhoud vervalst of gewijzigd is, en ze zijn afhankelijk van het feit dat het creatieve hulpprogramma de gegevens in de eerste plaats heeft toegevoegd. Een door AI gegenereerde afbeelding die met een tool wordt gemaakt die C2PA niet ondersteunt, draagt helemaal geen dergelijk etiket.

Google DeepMind's SynthID werkt anders: het voegt een onzichtbaar digitaal watermerk rechtstreeks in de pixels van een afbeelding in wanneer de afbeelding wordt gemaakt met Google's Imagen-model. Google zegt dat het watermerk gebruikelijke bewerkingen zoals filters, kleurveranderingen, compressie en helderheidscorrecties overleeft, en een detectiehulpprogramma geeft een van drie resultaten terug – "gedetecteerd", "niet gedetecteerd" of "mogelijk gedetecteerd". Het watermerk van SynthID werkt alleen op afbeeldingen die door Google's eigen modellen zijn gemaakt; het kan inhoud van andere generatoren zoals Midjourney of Stable Diffusion niet identificeren, aldus DeepMind.

Stap 5: behandel geautomatiseerde detectiehulpprogramma's met voorzichtigheid

Een evaluatie van onderzoekers van de organisatie WITNESS, gepubliceerd door het Reuters Institute for the Study of Journalism in april 2024, onderzocht tests die in februari 2024 zijn uitgevoerd op acht openbaar beschikbare deepfake-detectoren – Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID en een open-source AI-afbeeldingsdetector. Het bleek dat detectiehulpprogramma's slechts zo goed werken als de gegevens waarop ze zijn getraind: een detector die is getraind om door AI gegenereerde afbeeldingen te herkennen, kan falen bij face-swap deepfakes, en tools die voornamelijk op bekende publieke figuren zoals Volodymyr Zelenskyy zijn getraind, hadden moeite met minder beroemde mensen.

Dezelfde evaluatie vond dat eenvoudige bewerkingen detectoren kunnen verslaan. Het bijsnijden, comprimeren of verlagen van de resolutie van een afbeelding veroorzaakte dat enkele hulpprogramma's synthetische inhoud als echt verkeerd classificeerden; nadat de resolutie van een bekende Obama deepfake-video werd verlaagd en een deel van de clip werd bewerkt, retourneerde een detector een resultaat van "Geen Deepfake Gedetecteerd". Screenshots van door AI gegenereerde avatars werden ook vaak als door mensen gemaakt verkeerd geclassificeerd, zo bleek uit de evaluatie.

Alles samenvoegen

1. Inspecteer de afbeelding zorgvuldig op verlichting-, textuur-, oog-, hand- en achtergrondinconsistenties.
2. Controleer beschikbare metadata (cameramodel, datums, software) op afwijkingen.
3. Voer een omgekeerde afbeeldingszoekopdracht uit om te zien waar en wanneer de afbeelding voor het eerst verscheen.
4. Zoek naar Content Credentials (C2PA) of een SynthID-watermerk waar van toepassing, met dien verstande dat geen van beide alle AI-tools omvat.
5. Behandel het resultaat van een geautomatiseerd detectiehulpprogramma als één invoer onder meer, niet als een definitief oordeel – WITNESS-onderzoekers merken op dat dergelijke hulpprogramma's het beste werken samen met andere technieken zoals omgekeerde afbeeldingszoekopdracht en geolocatie, niet als een standalone-oplossing.
6. Controleer de bewering die aan de afbeelding is gekoppeld tegen gerespecteerde nieuwsorganisaties of feitencontrolesites.

Geen methode op deze lijst is op zichzelf voldoende. De CAI, ESET en de WITNESS/Reuters Institute-evaluatie komen allemaal tot dezelfde conclusie: herkomstgegevens, watermerken en geautomatiseerde detectoren dekken elk slechts een deel van het probleem af, en het combineren van meerdere controles – plus gewoon scepticisme over waar een afbeelding vandaan komt en wie deze deelt – blijft de meest betrouwbare benadering die vandaag beschikbaar is.