Hoe u Deepfakes en AI-gegenereerde afbeeldingen kunt herkennen: Een stap-voor-stap handleiding

Er is geen enkel hulpmiddel dat elke deepfake of AI-gegenereerde afbeelding opvangt. Het cybersecurity-bedrijf ESET en het Reuters Instituut voor de Studie van Journalisme aan de Universiteit van Oxford bevelen beiden aan meerdere controles te combineren — visuele inspectie, herkomstmetagegevens, watermarkdetectie en bronverificatie — omdat elke methode bekende blinde vlekken heeft.

Stap 1: Zoek naar visuele en audio-inconsistenties

ESETs gids voor het opsporen van door AI gegenereerde misinformatie somt concrete visuele aanwijzingen op om eerst te controleren: onnatuurlijke verlichting, overdreven gladde huidtextuur, flikkerende randen en vervaagde achtergronden. Gezichtsafwijkingen die het waard zijn om te controleren, zijn onder andere verkeerd uitgelijnde ogen, vervormd tandvlees en ongebruikelijke knipperppatronen. Voor video's is een mismatch tussen de audio en de lippenbewegingen van de spreker een veel voorkomend teken van manipulatie, volgens ESET.

ESET merkt ook op dat tools die worden gebruikt om deepfakes te maken, vaak het aanmaak- en wijzigingsdatum van een bestand wijzigen of wissen, dus inconsistente metagegevens kunnen een secundaire aanwijzing zijn.

Stap 2: Controleer op Content Credentials (C2PA)

Content Credentials, gebaseerd op de C2PA-technische standaard, registreert informatie over een afbeelding op het moment waarop deze wordt aangemaakt door deze cryptografisch te ondertekenen, volgens het Content Authenticity Initiative (CAI). De CAI beschrijft deze record als een soort voedingslabel voor digitale inhoud, met daarin de maker, de gebruikte software of AI-tool, en of het bestand met AI is gegenereerd of bewerkt, als die informatie door de maker is opgenomen.

De CAI is expliciet dat Content Credentials niet bedoeld zijn om aan te geven of inhoud "echt" is: ze bieden context over de herkomst, geen oordeel. Het systeem werkt ook alleen als het aanmaakprogramma daadwerkelijk een manifest insluit.

Stap 3: Controleer op een onzichtbaar watermerk, zoals SynthID

Googles SynthID voegt een nauwelijks waarneembaar digitaal watermerk rechtstreeks in de pixels in van afbeeldingen die door het Imagen-model zijn gegenereerd, volgens Google DeepMind. Een apart detectiemodel scant een afbeelding op dat patroon en meldt een van drie resultaten: watermerk gedetecteerd (waarschijnlijk AI-gegenereerd), niet gedetecteerd (waarschijnlijk niet AI-gegenereerd), of mogelijk gedetecteerd, in welk geval DeepMind aanbeveelt het resultaat voorzichtig te beoordelen.

DeepMind zegt dat het SynthID-watermerk is ontworpen om veel voorkomende bewerkingen te doorstaan, zoals filteren, kleurajustering, rotatie en JPEG-compressie. Het markeert echter alleen afbeeldingen die zijn watergemerkt bij het aanmaken door Imagen of partnerhulpmiddelen die SynthID gebruiken — een afbeelding van een model dat SynthID niet gebruikt, geeft een "niet gedetecteerd" resultaat terug, zelfs als deze AI-gegenereerd is, zoals in de documentatie van DeepMind staat.

Stap 4: Voer een omgekeerd zoeken naar afbeeldingen uit

Omgekeerde afbeeldingzoekhulpmiddelen zoals Google Lens of TinEye kunnen onthullen of een afbeelding eerder in een ander verband circuleerde, wat volgens onderzoekers van het Reuters Instituut een van de meest betrouwbare manieren is om hergebruikte of opnieuw gelabelde afbeeldingen op te vangen. Als dezelfde afbeelding bij een ouder, niet-gerelateerd verhaal wordt geplaatst, is dat een sterk signaal dat de huidige claim erover onwaar is, onafhankelijk van of de afbeelding zelf AI-gegenereerd is.

Waarom geautomatiseerde detectors nog steeds kunnen worden misleid

De beoordeling van het Reuters Instituut van AI-detectiehulpmiddelen vond dat eenvoudige bewerkingen deze routinematig verslaan. Toen onderzoekers een viraal beeld dat naar verluidt een Pentagonexplosie toonde, bijsneden en schaalden, classificeerde detectiesoftware de gewijzigde versie als authentiek. Het verlagen van de resolutie en het bijsnijden van een bekend Obama-deepfake-video produceerden soortgelijke valse negatieven, en sociale mediacompressie van een AI-gegenereerde Biden-robocall zorgde ervoor dat één detector een kopie als "zeer waarschijnlijk echt" classificeerde, terwijl het oorspronkelijke ongecomprimeerde bestand 74% waarschijnlijk vals was.

De beoordeling vond ook dat detectoren die voornamelijk op bekende figuren uit het openbare leven, zoals een staatshoofd, waren getraind, slechter presteerden op minder bekende personen met weinig online aanwezigheid, omdat de onderliggende modellen minder geverifieerde referentiegegevens hadden om mee te vergelijken.

Het samenbrengen

1. Inspecteer de afbeelding of video op de visuele en audio-inconsistenties die ESET opsomt, zoals onnatuurlijke verlichting, knipperppatronen of lipsync-mismatches.
2. Controleer of het bestand Content Credentials (C2PA)-metagegevens bevat die AI-generatie onthullen.
3. Als de afbeelding van een Google-model kan afkomstig zijn, controleer deze met Googles SynthID-detector op een watermerkergebeunis.
4. Voer een omgekeerd zoeken naar afbeeldingen uit met Google Lens of TinEye om te zien of de afbeelding elders in een ander verband is verschenen.
5. Behandel elk enkel resultaat op zichzelf als niet-sluitend en vergelijk de claim met berichtgeving van gevestigde nieuwsmedia voordat u deze deelt, zoals het Reuters Instituut en ESET beide adviseren.