Como Identificar Imagens Geradas por IA e Deepfakes: Um Guia Passo a Passo

Não existe um teste infalível único para distinguir uma fotografia real de uma gerada por IA. Em vez disso, pesquisadores e organizações de verificação de fatos recomendam sobrepor várias verificações — inspeção visual, metadados, dados de proveniência e pesquisa reversa de imagens — porque cada método detecta diferentes tipos de falsificações e cada um pode ser enganado por conta própria.

Passo 1: Observe atentamente a imagem em si

A empresa de cibersegurança ESET recomenda começar com uma leitura visual próxima da imagem. Os sinais de aviso incluem iluminação antinatural, texturas de pele excessivamente suave, bordas cintilantes ou desfocadas ao redor de um sujeito, olhos desalinhados, dentes distorcidos e padrões de piscada incomuns em vídeo. Para vídeo com som, verifique se o áudio corresponde aos movimentos da boca, pois as discrepâncias são um indicador comum de deepfake, diz ESET.

Passo 2: Verifique os metadados

ESET aconselha revisar os metadados de um arquivo, incluindo datas de criação e modificação, porque as ferramentas de deepfake frequentemente removem ou alteram essas informações, o que pode criar inconsistências que merecem ser observadas. A ausência de informações esperadas de câmera ou dispositivo, ou a presença de nomes de software de edição de IA nos dados do arquivo, pode ser uma pista, embora os metadados também possam ser removidos ou falsificados e não devam ser tratados como definitivos por conta própria.

Passo 3: Use a pesquisa reversa de imagens

Executar a imagem através de uma ferramenta de pesquisa reversa de imagens como Google Images ou TinEye pode revelar se a imagem apareceu em outro lugar online, em que contexto e quando — ajudando a confirmar se é uma foto antiga sendo recirculada com uma alegação falsa ou uma imagem genuinamente nova, observa ESET.

Passo 4: Verifique as Credenciais de Conteúdo ou marcas d'água

A Iniciativa de Autenticidade de Conteúdo (CAI), o grupo por trás do padrão C2PA, descreve as Credenciais de Conteúdo como uma espécie de "rótulo nutricional" para conteúdo digital: metadados assinados criptograficamente que podem registrar quem criou uma imagem, quando, com quais ferramentas e se a IA estava envolvida. As credenciais são evidentes de adulteração — se a imagem ou seus dados anexados forem alterados após a assinatura, as Credenciais de Conteúdo sinalizarão essa alteração, de acordo com a CAI.

No entanto, a CAI é explícita sobre os limites: as Credenciais de Conteúdo não declaram que o conteúdo é falso ou alterado, e dependem de a ferramenta criadora ter adicionado as credenciais em primeiro lugar. Uma imagem de IA feita com uma ferramenta que não suporta C2PA não terá nenhum rótulo desse tipo.

SynthID do Google DeepMind funciona de forma diferente: incorpora uma marca d'água digital invisível diretamente nos pixels de uma imagem quando a imagem é criada com o modelo Imagen do Google. O Google diz que a marca d'água sobrevive a edições comuns como filtros, mudanças de cor, compressão e ajustes de brilho, e uma ferramenta de detecção retorna um de três resultados — "detectado", "não detectado" ou "possivelmente detectado". A marca d'água do SynthID só funciona em imagens produzidas pelos próprios modelos do Google; não pode identificar conteúdo feito por outros geradores como Midjourney ou Stable Diffusion, de acordo com DeepMind.

Passo 5: Trate as ferramentas de detector automático com cautela

Uma avaliação de pesquisadores da organização WITNESS, publicada pelo Instituto Reuters para o Estudo do Jornalismo em abril de 2024, examinou testes realizados em fevereiro de 2024 em oito detectores de deepfake disponíveis publicamente — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID e um detector de imagens de IA de código aberto. Descobriu que as ferramentas de detecção funcionam tão bem quanto os dados em que foram treinadas: um detector treinado para reconhecer imagens geradas por IA pode falhar em deepfakes de troca de rosto, e ferramentas treinadas principalmente em figuras públicas bem conhecidas como Volodymyr Zelenskyy tiveram dificuldades com pessoas menos famosas.

A mesma avaliação descobriu que edições simples poderiam derrotar os detectores. Cortar, comprimir ou reduzir a resolução de uma imagem fez com que algumas ferramentas classificassem incorretamente o conteúdo sintético como real; depois que a resolução de um conhecido vídeo de deepfake do Obama foi reduzida e parte do clipe foi editada, um detector retornou um resultado de "Nenhum Deepfake Detectado". Capturas de tela de avatares gerados por IA também foram frequentemente classificadas incorretamente como feitas por humanos, descobriu a avaliação.

Juntando tudo

1. Inspecione a imagem atentamente para inconsistências de iluminação, textura, olhos, mãos e fundo.
2. Verifique os metadados disponíveis (modelo de câmera, datas, software) para anomalias.
3. Execute uma pesquisa reversa de imagens para ver onde e quando a imagem apareceu pela primeira vez.
4. Procure por Credenciais de Conteúdo (C2PA) ou uma marca d'água SynthID onde aplicável, entendendo que nenhuma cobre todas as ferramentas de IA.
5. Se estiver usando um detector automático, trate seu resultado como uma entrada entre várias, não como um veredicto final — pesquisadores do WITNESS observam que tais ferramentas funcionam melhor ao lado de outras técnicas como pesquisa reversa de imagens e geolocalização, não como uma solução autônoma.
6. Verifique a alegação anexada à imagem contra organizações de notícias respeitáveis ou sites de verificação de fatos.

Nenhum método nesta lista é suficiente por si só. A CAI, ESET e a avaliação do WITNESS/Instituto Reuters chegam à mesma conclusão: dados de proveniência, marcas d'água e detectores automáticos cobrem apenas parte do problema, e combinar várias verificações — mais ceticismo ordinário sobre de onde uma imagem veio e quem está compartilhando — permanece como a abordagem mais confiável disponível hoje.