Come riconoscere Deepfake e immagini generate dall'IA: Una guida passo dopo passo

Non esiste un singolo strumento che catturi ogni deepfake o immagine generata dall'IA. L'azienda di sicurezza informatica ESET e l'Istituto Reuters per lo Studio del Giornalismo dell'Università di Oxford raccomandano entrambi di stratificare diversi controlli — ispezione visiva, metadati di provenienza, rilevamento di filigrane e verifica della fonte — perché ogni metodo ha punti ciechi noti.

Passaggio 1: Cercare incoerenze visive e audio

La guida dell'ESET per individuare la disinformazione generata dall'IA elenca indizi visivi concreti da controllare per primo: illuminazione innaturale, texture della pelle eccessivamente liscia, bordi tremolanti e sfondi sfocati. Le anomalie facciali che vale la pena controllare includono occhi disallineati, denti distorti e insoliti pattern di ammiccamento. Per i video, una mancata corrispondenza tra l'audio e i movimenti delle labbra del parlante è un segno comune di manipolazione, secondo l'ESET.

L'ESET osserva anche che gli strumenti utilizzati per creare deepfake spesso alterano o cancellano le date di creazione e modifica di un file, quindi i metadati incoerenti possono essere un indizio secondario.

Passaggio 2: Controllare le credenziali di contenuto (C2PA)

Content Credentials, basato sullo standard tecnico C2PA, registra informazioni su un'immagine al momento della sua creazione firmandola crittograficamente, secondo la Content Authenticity Initiative (CAI). La CAI descrive questo record come una sorta di etichetta nutrizionale per i contenuti digitali, mostrando il creatore, il software o lo strumento IA utilizzato, e se il file è stato generato o modificato con l'IA, quando tali informazioni sono state incluse dal creatore.

La CAI è esplicita nel fatto che Content Credentials non intendono dichiarare se un contenuto è "reale": forniscono contesto sulla provenienza, non un verdetto. Il sistema funziona anche solo se lo strumento di creazione incorpora effettivamente un manifesto.

Passaggio 3: Controllare una filigrana invisibile, come SynthID

SynthID di Google incorpora una filigrana digitale impercettibile direttamente nei pixel delle immagini generate dal suo modello Imagen, secondo Google DeepMind. Un modello di rilevamento separato esegue la scansione di un'immagine per quel modello e segnala uno di tre risultati: filigrana rilevata (probabilmente generata dall'IA), non rilevata (probabilmente non generata dall'IA) o possibilmente rilevata, nel qual caso DeepMind consiglia di trattare il risultato con cautela.

DeepMind afferma che la filigrana SynthID è progettata per sopravvivere alle modifiche comuni come il filtraggio, la regolazione del colore, la rotazione e la compressione JPEG. Tuttavia, contrassegna solo le immagini che sono state filigranate al momento della creazione da Imagen o da strumenti partner che utilizzano SynthID — un'immagine da un modello che non utilizza SynthID restituirà un risultato "non rilevato" anche se è generata dall'IA, come mostra la documentazione di DeepMind.

Passaggio 4: Eseguire una ricerca inversa di immagini

Strumenti di ricerca inversa di immagini come Google Lens o TinEye possono rivelare se un'immagine è circolata in precedenza in un contesto diverso, che è uno dei modi più affidabili per catturare immagini riciclate o rinominate, secondo i ricercatori dell'Istituto Reuters. Se la stessa foto appare allegata a una storia più vecchia e non correlata, questo è un segnale forte che l'affermazione attuale su di essa è falsa, indipendentemente dal fatto che l'immagine stessa sia generata dall'IA.

Perché i rilevatori automatizzati possono ancora essere ingannati

La revisione dell'Istituto Reuters dei strumenti di rilevamento dell'IA ha rilevato che le semplici modifiche li sconfiggono regolarmente. Quando i ricercatori hanno ritagliato e ridimensionato un'immagine virale che presumibilmente mostrava un'esplosione al Pentagono, il software di rilevamento ha classificato la versione alterata come autentica. L'abbassamento della risoluzione e l'editing di un noto video deepfake di Obama hanno prodotto falsi negativi simili, e la compressione dei social media di una chiamata automatizzata Biden generata dall'IA ha causato un rilevatore per classificare una copia come "molto probabilmente reale", mentre il file originale non compresso aveva il 74% di probabilità di essere falso.

La revisione ha anche scoperto che i rilevatori addestrati principalmente su personaggi pubblici ben noti, come un capo di stato, hanno avuto prestazioni peggiori su individui meno noti con poca presenza online, perché i modelli sottostanti avevano meno dati di riferimento verificati per il confronto.

Mettendo insieme

1. Ispezionare l'immagine o il video per le incoerenze visive e audio che l'ESET elenca, come illuminazione innaturale, pattern di ammiccamento o mancate sincronizzazioni labiali.
2. Controllare se il file contiene metadati di Content Credentials (C2PA) che rivelano la generazione dell'IA.
3. Se l'immagine potrebbe provenire da un modello Google, controllarlo con il rilevatore SynthID di Google per un risultato di filigrana.
4. Eseguire una ricerca inversa di immagini con Google Lens o TinEye per vedere se l'immagine è apparsa altrove in un contesto diverso.
5. Trattare qualsiasi risultato singolo come inconcludente da solo e confrontare l'affermazione con la copertura delle organizzazioni di notizie stabilite prima di condividerla, come consigliato sia dall'Istituto Reuters che dall'ESET.