Cómo detectar deepfakes e imágenes generadas por IA: Una guía paso a paso

No existe una única herramienta que detecte todos los deepfakes o imágenes generadas por IA. La firma de ciberseguridad ESET y el Reuters Institute for the Study of Journalism de la Universidad de Oxford recomiendan superponer varios controles — inspección visual, metadatos de procedencia, detección de marcas de agua y verificación de fuentes — porque cada método tiene puntos ciegos conocidos.

Paso 1: Buscar inconsistencias visuales y de audio

La guía de ESET para detectar desinformación generada por IA enumera pistas visuales concretas a verificar primero: iluminación antinatural, texturas de piel excesivamente suave, bordes parpadeantes y fondos borrosos. Las anomalías faciales que vale la pena verificar incluyen ojos desalineados, dientes distorsionados y patrones de parpadeo inusuales. Para video, una discrepancia entre el audio y los movimientos de los labios del orador es una señal común de manipulación, según ESET.

ESET también señala que las herramientas utilizadas para crear deepfakes a menudo alteran o borran las fechas de creación y modificación de un archivo, por lo que los metadatos inconsistentes pueden ser una pista secundaria.

Paso 2: Verificar Content Credentials (C2PA)

Content Credentials, construido sobre el estándar técnico C2PA, registra información sobre una imagen en el momento de su creación mediante su firma criptográfica, según la Content Authenticity Initiative (CAI). La CAI describe este registro como una especie de etiqueta de nutrición para contenido digital, mostrando el creador, el software o herramienta de IA utilizada, y si el archivo fue generado o editado con IA, cuando esa información fue incluida por el creador.

La CAI es explícita en que Content Credentials no están destinados a declarar si el contenido es «real»: proporcionan contexto sobre el origen, no un veredicto. El sistema también solo funciona si la herramienta de creación realmente incrustra un manifiesto.

Paso 3: Verificar una marca de agua invisible, como SynthID

SynthID de Google incrusta una marca de agua digital imperceptible directamente en los píxeles de las imágenes generadas por su modelo Imagen, según Google DeepMind. Un modelo de detección separado escanea una imagen en busca de ese patrón e informa uno de tres resultados: marca de agua detectada (probablemente generada por IA), no detectada (improbable que sea generada por IA), o posiblemente detectada, en cuyo caso DeepMind recomienda tratar el resultado con cautela.

DeepMind dice que la marca de agua de SynthID está diseñada para sobrevivir ediciones comunes como filtrado, ajuste de color, rotación y compresión JPEG. Sin embargo, solo marca imágenes que fueron marcadas en la creación por Imagen o herramientas asociadas que utilizan SynthID — una imagen de un modelo que no utiliza SynthID devolverá un resultado «no detectado» aunque sea generada por IA, como muestran los documentos de DeepMind.

Paso 4: Ejecutar una búsqueda inversa de imágenes

Las herramientas de búsqueda inversa de imágenes como Google Lens o TinEye pueden revelar si una imagen circuló previamente en un contexto diferente, que es una de las formas más confiables de detectar elementos visuales reciclados o reetiquetados, según investigadores del Reuters Institute. Si la misma imagen aparece adjunta a una historia más antigua e no relacionada, esa es una señal fuerte de que la afirmación actual sobre ella es falsa, independientemente de si la imagen en sí fue generada por IA.

Por qué los detectores automatizados aún pueden ser engañados

La revisión del Reuters Institute de herramientas de detección de IA encontró que las ediciones simples rutinariamente las vencen. Cuando los investigadores recortaron y escalaron una imagen viral que supuestamente mostraba una explosión del Pentágono, el software de detección clasificó la versión alterada como auténtica. Bajar la resolución y recortar un conocido video deepfake de Obama produjo falsos negativos similares, y la compresión en redes sociales de una llamada robótica de Biden generada por IA hizo que un detector llamara a una copia «altamente probable que sea real», mientras que el archivo original sin comprimir puntuó 74% probable que sea falso.

La revisión también encontró que los detectores entrenados principalmente en personajes públicos bien conocidos, como un jefe de estado, funcionaron peor en individuos menos conocidos con poca presencia en línea, porque los modelos subyacentes tenían menos datos de referencia verificados para comparar.

Juntándolo todo

1. Inspeccione la imagen o video para las inconsistencias visuales y de audio que ESET enumera, como iluminación antinatural, patrones de parpadeo o discrepancias de sincronización de labios.
2. Verifique si el archivo lleva metadatos de Content Credentials (C2PA) que revelen la generación por IA.
3. Si la imagen puede provenir de un modelo de Google, verífiquela con el detector SynthID de Google para obtener un resultado de marca de agua.
4. Ejecute una búsqueda inversa de imágenes con Google Lens o TinEye para ver si la imagen ha aparecido en otro lugar en un contexto diferente.
5. Trate cualquier resultado único como inconcluso por sí solo, y compare la afirmación con la cobertura de organizaciones de noticias establecidas antes de compartirla, como aconsejan el Reuters Institute y ESET.