Come riconoscere immagini generate dall'IA e deepfake: una guida passo dopo passo

Non esiste un singolo test infallibile per distinguere una fotografia reale da una generata dall'IA. Invece, i ricercatori e le organizzazioni di fact-checking raccomandano di stratificare più controlli – ispezione visiva, metadati, dati di provenienza e ricerca inversa di immagini – perché ogni metodo cattura diversi tipi di falsi e ciascuno può essere ingannato da solo.

Passaggio 1: guarda da vicino l'immagine stessa

L'azienda di cibersicurezza ESET consiglia di iniziare con un'attenta lettura visiva dell'immagine. I segni di avvertimento includono illuminazione innaturale, texture della pelle eccessivamente lisce, bordi sfarfallanti o sfocati intorno a un soggetto, occhi disallineati, denti distorti e schemi di lampeggiamento insoliti nel video. Per i video con audio, controlla se l'audio corrisponde ai movimenti della bocca, poiché le mancanze di corrispondenza sono un comune indicatore di deepfake, secondo ESET.

Passaggio 2: controlla i metadati

ESET consiglia di esaminare i metadati di un file, incluse le date di creazione e modifica, perché gli strumenti deepfake spesso rimuovono o alterano queste informazioni, il che può creare incoerenze degne di nota. L'assenza di informazioni previste sulla fotocamera o sul dispositivo, o la presenza di nomi di software di editing AI nei dati del file, possono essere un indizio, sebbene i metadati possono anche essere rimossi o falsificati e non devono essere considerati definitivi da soli.

Passaggio 3: usa la ricerca inversa di immagini

L'esecuzione dell'immagine attraverso uno strumento di ricerca inversa di immagini come Google Immagini o TinEye può rivelare se l'immagine è apparsa altrove online, in quale contesto e quando – aiutando a confermare se si tratta di una foto vecchia ricircolata con un falso reclamo o di un'immagine genuinamente nuova, nota ESET.

Passaggio 4: controlla le credenziali di contenuto o le filigrane

La Content Authenticity Initiative (CAI), il gruppo dietro lo standard C2PA, descrive Content Credentials come una sorta di "etichetta nutrizionale" per i contenuti digitali: metadati firmati crittograficamente che possono registrare chi ha creato un'immagine, quando, con quali strumenti e se era coinvolta l'IA. Le credenziali sono resistenti alle manomissioni – se l'immagine o i suoi dati allegati vengono modificati dopo la firma, le Content Credentials segnalerà quel cambiamento, secondo la CAI.

Tuttavia, la CAI è esplicita sui limiti: le Content Credentials non dichiarano che il contenuto è falso o alterato e si basano sul fatto che lo strumento di creazione ha aggiunto le credenziali in primo luogo. Un'immagine IA creata con uno strumento che non supporta C2PA non avrà alcuna etichetta di questo tipo.

SynthID di Google DeepMind funziona diversamente: incorpora una filigrana digitale invisibile direttamente nei pixel di un'immagine quando l'immagine viene creata con il modello Imagen di Google. Google dice che la filigrana sopravvive alle modifiche comuni come filtri, cambiamenti di colore, compressione e regolazioni della luminosità, e uno strumento di rilevamento restituisce uno di tre risultati – "rilevato", "non rilevato" o "possibilmente rilevato". La filigrana di SynthID funziona solo su immagini prodotte dai modelli di Google; non può identificare contenuti creati da altri generatori come Midjourney o Stable Diffusion, secondo DeepMind.

Passaggio 5: tratta gli strumenti di rilevamento automatico con cautela

Una valutazione di ricercatori dell'organizzazione WITNESS, pubblicata dal Reuters Institute for the Study of Journalism nell'aprile 2024, ha esaminato test condotti nel febbraio 2024 su otto rilevatori deepfake disponibili pubblicamente – Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID e un rilevatore di immagini AI open-source. Ha scoperto che gli strumenti di rilevamento funzionano solo quanto i dati su cui sono stati addestrati: un rilevatore addestrato a riconoscere immagini generate dall'IA potrebbe fallire su deepfake di scambio facciale, e gli strumenti addestrati principalmente su personalità pubbliche ben note come Volodymyr Zelenskyy hanno faticato con le persone meno famose.

La stessa valutazione ha scoperto che le modifiche semplici potevano sconfiggere i rilevatori. Il ritaglio, la compressione o la riduzione della risoluzione di un'immagine ha causato il malclassificazione del contenuto sintetico come reale in alcuni strumenti; dopo che la risoluzione di un noto video deepfake di Obama è stata ridotta e parte della clip è stata modificata, un rilevatore ha restituito un risultato di "Nessun deepfake rilevato". Gli screenshot di avatar generati dall'IA sono stati anche frequentemente malclassificati come creati dall'uomo, secondo la valutazione.

Mettere tutto insieme

1. Ispeziona da vicino l'immagine per incoerenze di illuminazione, texture, occhi, mani e sfondo.
2. Controlla i metadati disponibili (modello di fotocamera, date, software) per anomalie.
3. Esegui una ricerca inversa di immagini per vedere dove e quando l'immagine è apparsa per la prima volta.
4. Cerca Content Credentials (C2PA) o una filigrana SynthID dove applicabile, comprendendo che nessuno copre ogni strumento IA.
5. Se usi un rilevatore automatico, tratta il suo risultato come uno input tra diversi, non come verdetto finale – i ricercatori WITNESS notano che questi strumenti funzionano meglio insieme ad altre tecniche come la ricerca inversa di immagini e la geolocalizzazione, non come soluzione autonoma.
6. Verifica l'affermazione allegata all'immagine rispetto a organizzazioni di notizie affidabili o siti di fact-checking.

Nessun metodo di questo elenco è sufficiente di per sé. La CAI, ESET e la valutazione WITNESS/Reuters Institute convergono tutti sulla stessa conclusione: i dati di provenienza, le filigrane e i rilevatori automatici coprono ciascuno solo una parte del problema, e la combinazione di più controlli – più lo scetticismo ordinario sulla provenienza di un'immagine e chi la condivide – rimane l'approccio più affidabile disponibile oggi.