Cómo identificar imágenes generadas por IA y deepfakes: Una guía paso a paso

No existe una prueba infalible única para distinguir una fotografía real de una generada por IA. En su lugar, investigadores y organizaciones de verificación de hechos recomiendan superponer varias verificaciones: inspección visual, metadatos, datos de proveniencia y búsqueda inversa de imágenes, porque cada método atrapa diferentes tipos de falsificaciones y cada uno puede ser engañado por sí solo.

Paso 1: Observe atentamente la imagen en sí

La empresa de ciberseguridad ESET recomienda comenzar con una lectura visual cercana de la imagen. Los signos de advertencia incluyen iluminación antinatural, texturas de piel demasiado suave, bordes parpadeantes o borrosos alrededor de un sujeto, ojos desalineados, dientes distorsionados y patrones de parpadeo inusuales en video. Para video con sonido, verifique si el audio coincide con los movimientos de la boca, ya que las discrepancias son una característica común del deepfake, dice ESET.

Paso 2: Verificar los metadatos

ESET aconseja revisar los metadatos de un archivo, incluidas las fechas de creación y modificación, porque las herramientas de deepfake frecuentemente eliminan o alteran esta información, lo que puede crear inconsistencias que vale la pena notar. La ausencia de información esperada de la cámara o dispositivo, o la presencia de nombres de software de edición de IA en los datos del archivo, puede ser una pista, aunque los metadatos también se pueden eliminar o falsificar y no deben tratarse como definitivos por sí solos.

Paso 3: Utilice la búsqueda inversa de imágenes

Ejecutar la imagen a través de una herramienta de búsqueda inversa de imágenes como Google Images o TinEye puede revelar si la imagen ha aparecido en otros lugares en línea, en qué contexto y cuándo, ayudando a confirmar si se trata de una foto antigua que se recircula con una afirmación falsa o una imagen genuinamente nueva, señala ESET.

Paso 4: Verifique las Credenciales de Contenido o marcas de agua

La Iniciativa de Autenticidad de Contenido (CAI), el grupo detrás del estándar C2PA, describe las Credenciales de Contenido como una especie de "etiqueta nutricional" para contenido digital: metadatos firmados criptográficamente que pueden registrar quién creó una imagen, cuándo, con qué herramientas y si la IA estuvo involucrada. Las credenciales son evidentes de manipulación: si la imagen o sus datos adjuntos se alteran después de firmar, las Credenciales de Contenido marcarán ese cambio, según la CAI.

Sin embargo, la CAI es explícita sobre los límites: las Credenciales de Contenido no declaran que el contenido es falso o alterado, y dependen de que la herramienta creadora haya agregado las credenciales en primer lugar. Una imagen de IA hecha con una herramienta que no admite C2PA no llevará ninguna etiqueta de este tipo.

SynthID de Google DeepMind funciona de manera diferente: incrusta una marca de agua digital invisible directamente en los píxeles de una imagen cuando la imagen se realiza con el modelo Imagen de Google. Google dice que la marca de agua sobrevive ediciones comunes como filtros, cambios de color, compresión y ajustes de brillo, y una herramienta de detección devuelve uno de tres resultados: "detectado", "no detectado" o "posiblemente detectado". La marca de agua de SynthID solo funciona en imágenes producidas por los propios modelos de Google; no puede identificar contenido hecho por otros generadores como Midjourney o Stable Diffusion, según DeepMind.

Paso 5: Trate las herramientas de detector automático con cautela

Una evaluación de investigadores de la organización WITNESS, publicada por el Instituto Reuters para el Estudio del Periodismo en abril de 2024, examinó pruebas realizadas en febrero de 2024 en ocho detectores de deepfake disponibles públicamente: Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID y un detector de imágenes de IA de código abierto. Se encontró que las herramientas de detección funcionan solo tan bien como los datos en los que fueron entrenadas: un detector entrenado para reconocer imágenes generadas por IA podría fallar en deepfakes de intercambio de rostros, y las herramientas entrenadas principalmente en figuras públicas bien conocidas como Volodymyr Zelenskyy tuvieron dificultades con personas menos famosas.

La misma evaluación encontró que ediciones simples podrían derrotar a los detectores. El recorte, compresión o reducción de la resolución de una imagen hizo que algunas herramientas clasificaran incorrectamente el contenido sintético como real; después de que la resolución de un conocido video de deepfake de Obama se redujo y parte del clip se editó, un detector devolvió un resultado de "No se detectó Deepfake". Las capturas de pantalla de avatares generados por IA también fueron frecuentemente clasificadas erróneamente como hechas por humanos, encontró la evaluación.

Juntar todo

1. Inspeccione la imagen de cerca en busca de inconsistencias de iluminación, textura, ojos, manos y fondo.
2. Verifique los metadatos disponibles (modelo de cámara, fechas, software) para detectar anomalías.
3. Ejecute una búsqueda inversa de imágenes para ver dónde y cuándo apareció la imagen por primera vez.
4. Busque Credenciales de Contenido (C2PA) o una marca de agua SynthID donde corresponda, entendiendo que ninguna cubre todas las herramientas de IA.
5. Si utiliza un detector automático, trate su resultado como una entrada entre varias, no como un veredicto final: los investigadores de WITNESS señalan que tales herramientas funcionan mejor junto con otras técnicas como búsqueda inversa de imágenes y geolocalización, no como una solución independiente.
6. Verifique la afirmación adjunta a la imagen con organizaciones de noticias reputadas o sitios de verificación de hechos.

Ningún método en esta lista es suficiente por sí solo. La CAI, ESET y la evaluación de WITNESS/Instituto Reuters llegan a la misma conclusión: los datos de proveniencia, las marcas de agua y los detectores automáticos solo cubren parte del problema, y combinar varias verificaciones, más el escepticismo ordinario sobre de dónde proviene una imagen y quién la comparte, sigue siendo el enfoque más confiable disponible hoy en día.