Comment identifier les images générées par l'IA et les deepfakes : Un guide étape par étape

Il n'existe pas un seul test infaillible pour distinguer une vraie photographie d'une générée par l'IA. Au lieu de cela, les chercheurs et les organisations de vérification des faits recommandent de superposer plusieurs vérifications — inspection visuelle, métadonnées, données de provenance et recherche d'image inversée — car chaque méthode détecte différents types de faux et chacune peut être trompée seule.

Étape 1 : Observez attentivement l'image elle-même

L'entreprise de cybersécurité ESET recommande de commencer par une lecture visuelle approfondie de l'image. Les signes d'avertissement incluent un éclairage dénaturé, des textures de peau excessivement lisses, des bords scintillants ou flous autour d'un sujet, des yeux mal alignés, des dents déformées et des motifs de clignotement inhabituels dans la vidéo. Pour les vidéos avec son, vérifiez si l'audio correspond aux mouvements de la bouche, car les discordances sont un indicateur courant de deepfake, dit ESET.

Étape 2 : Vérifiez les métadonnées

ESET conseille d'examiner les métadonnées d'un fichier, y compris les dates de création et de modification, car les outils de deepfake suppriment souvent ou altèrent cette information, ce qui peut créer des incohérences worth noting. L'absence d'informations attendues sur la caméra ou l'appareil, ou la présence de noms de logiciels d'édition d'IA dans les données du fichier, peut être un indice, bien que les métadonnées puissent également être supprimées ou falsifiées et ne doivent pas être traitées comme définitives seules.

Étape 3 : Utilisez la recherche d'image inversée

Exécuter l'image via un outil de recherche d'image inversée tel que Google Images ou TinEye peut révéler si l'image a été vue ailleurs en ligne, dans quel contexte et quand — aidant à confirmer s'il s'agit d'une vieille photo recirculée avec une fausse affirmation ou d'une image véritablement nouvelle, note ESET.

Étape 4 : Vérifiez les identifiants de contenu ou les filigranes

L'Initiative d'authenticité du contenu (CAI), le groupe derrière la norme C2PA, décrit les identifiants de contenu comme une sorte d'« étiquette nutritionnelle » pour le contenu numérique : les métadonnées signées cryptographiquement qui peuvent enregistrer qui a créé une image, quand, avec quels outils et si l'IA était impliquée. Les identifiants sont inviolables — si l'image ou ses données annexées sont modifiées après la signature, les identifiants de contenu signaleront cette modification, selon la CAI.

Cependant, la CAI est explicite sur les limites : les identifiants de contenu ne déclarent pas que le contenu est faux ou modifié, et ils dépendent de l'outil de création ayant ajouté les identifiants en premier lieu. Une image d'IA créée avec un outil qui ne supporte pas C2PA ne portera aucune étiquette de ce type.

SynthID de Google DeepMind fonctionne différemment : il intègre un filigrane numérique invisible directement dans les pixels d'une image lorsque l'image est créée avec le modèle Imagen de Google. Google dit que le filigrane survit aux modifications courantes telles que les filtres, les changements de couleur, la compression et les ajustements de luminosité, et un outil de détection retourne l'un de trois résultats — « détecté », « non détecté » ou « possiblement détecté ». Le filigrane de SynthID ne fonctionne que sur les images produites par les propres modèles de Google ; il ne peut pas identifier le contenu créé par d'autres générateurs comme Midjourney ou Stable Diffusion, selon DeepMind.

Étape 5 : Traitez les outils de détecteur automatisé avec prudence

Une évaluation de chercheurs de l'organisation WITNESS, publiée par l'Institut Reuters pour l'étude du journalisme en avril 2024, a examiné des tests menés en février 2024 sur huit détecteurs de deepfake disponibles publiquement — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID et un détecteur d'images d'IA open-source. Elle a constaté que les outils de détection ne fonctionnent que aussi bien que les données sur lesquelles ils ont été entraînés : un détecteur entraîné à reconnaître les images générées par l'IA pourrait échouer sur les deepfakes d'échange de visage, et les outils entraînés principalement sur les personnages publics bien connus comme Volodymyr Zelenskyy ont eu du mal avec les gens moins célèbres.

La même évaluation a constaté que de simples modifications pourraient déjouer les détecteurs. La réduction, la compression ou la baisse de la résolution d'une image ont causé à certains outils de classer incorrectement le contenu synthétique comme réel ; après que la résolution d'une vidéo deepfake bien connue d'Obama ait été réduite et qu'une partie du clip soit éditée, un détecteur a retourné un résultat de « Pas de Deepfake Détecté ». Les captures d'écran d'avatars générés par l'IA ont également été fréquemment mal classés comme créés par l'homme, a constaté l'évaluation.

Mettre tout ensemble

1. Inspectez l'image attentivement pour vérifier les incohérences d'éclairage, de texture, d'yeux, de mains et de fond.
2. Vérifiez les métadonnées disponibles (modèle d'appareil photo, dates, logiciels) pour détecter les anomalies.
3. Effectuez une recherche d'image inversée pour voir où et quand l'image a été aperçue pour la première fois.
4. Recherchez des identifiants de contenu (C2PA) ou un filigrane SynthID le cas échéant, en comprenant que ni l'un ni l'autre ne couvrent tous les outils d'IA.
5. Si vous utilisez un détecteur automatisé, traitez son résultat comme une entrée parmi plusieurs, non comme un verdict final — les chercheurs de WITNESS notent que de tels outils fonctionnent mieux aux côtés d'autres techniques telles que la recherche d'image inversée et la géolocalisation, pas comme une solution autonome.
6. Vérifiez l'affirmation jointe à l'image par rapport aux organisations de presse réputées ou aux sites de vérification des faits.

Aucune méthode de cette liste n'est suffisante par elle-même. La CAI, ESET et l'évaluation WITNESS/Institut Reuters convergent tous vers la même conclusion : les données de provenance, les filigranes et les détecteurs automatisés ne couvrent chacun qu'une partie du problème, et la combinaison de plusieurs vérifications — plus le scepticisme ordinaire quant à la provenance d'une image et à qui la partage — reste l'approche la plus fiable disponible aujourd'hui.