Como Identificar Deepfakes e Imagens Geradas por IA: Um Guia Passo a Passo

Não existe uma única ferramenta que detecte cada deepfake ou imagem gerada por IA. A empresa de cibersegurança ESET e o Reuters Institute for the Study of Journalism da Universidade de Oxford recomendam superpor várias verificações — inspeção visual, metadados de proveniência, detecção de marca d'água e verificação de fonte — porque cada método tem pontos cegos conhecidos.

Passo 1: Procure por inconsistências visuais e de áudio

O guia da ESET para detectar desinformação gerada por IA lista pistas visuais concretas para verificar primeiro: iluminação antinatural, texturas de pele excessivamente suaves, bordas cintilantes e fundos desfocados. Anomalias faciais que vale a pena verificar incluem olhos desalinhados, dentes distorcidos e padrões de piscada incomuns. Para vídeo, uma discrepância entre o áudio e os movimentos labiais do locutor é um sinal comum de manipulação, de acordo com a ESET.

A ESET também observa que as ferramentas usadas para criar deepfakes frequentemente alteram ou apagam as datas de criação e modificação de um arquivo, portanto metadados inconsistentes podem ser uma pista secundária.

Passo 2: Verificar Content Credentials (C2PA)

Content Credentials, construído sobre o padrão técnico C2PA, registra informações sobre uma imagem no momento de sua criação assinando-a criptograficamente, de acordo com a Content Authenticity Initiative (CAI). A CAI descreve este registro como uma espécie de rótulo nutricional para conteúdo digital, mostrando o criador, o software ou ferramenta de IA usada, e se o arquivo foi gerado ou editado com IA, quando essa informação foi incluída pelo criador.

A CAI é explícita que Content Credentials não se destinam a declarar se o conteúdo é «real»: eles fornecem contexto sobre a origem, não um veredicto. O sistema também só funciona se a ferramenta de criação realmente incorporar um manifesto.

Passo 3: Verificar uma marca d'água invisível, como SynthID

SynthID do Google incorpora uma marca d'água digital imperceptível diretamente nos pixels de imagens geradas por seu modelo Imagen, de acordo com Google DeepMind. Um modelo de detecção separado verifica uma imagem para esse padrão e relata um dos três resultados: marca d'água detectada (provavelmente gerada por IA), não detectada (improvável que seja gerada por IA), ou possivelmente detectada, caso em que DeepMind recomenda tratar o resultado com cautela.

DeepMind diz que a marca d'água SynthID foi projetada para sobreviver a edições comuns como filtragem, ajuste de cor, rotação e compressão JPEG. No entanto, ela apenas marca imagens que foram marcadas na criação por Imagen ou ferramentas parceiras que usam SynthID — uma imagem de um modelo que não usa SynthID retornará um resultado «não detectado» mesmo que seja gerada por IA, como mostram os documentos do DeepMind.

Passo 4: Execute uma busca reversa de imagem

Ferramentas de busca reversa de imagem como Google Lens ou TinEye podem revelar se uma imagem circulou anteriormente em um contexto diferente, que é uma das formas mais confiáveis de detectar visuais reciclados ou relabelados, de acordo com pesquisadores do Reuters Institute. Se a mesma imagem aparecer anexada a uma história antiga e não relacionada, esse é um sinal forte de que a afirmação atual sobre ela é falsa, independentemente de a imagem em si ter sido gerada por IA.

Por que os detectores automatizados ainda podem ser enganados

A revisão do Reuters Institute de ferramentas de detecção de IA descobriu que edições simples as derrotam regularmente. Quando pesquisadores cortaram e dimensionaram uma imagem viral que supostamente mostrava uma explosão do Pentágono, o software de detecção classificou a versão alterada como autêntica. Reduzir a resolução e cortar um conhecido vídeo deepfake de Obama produziu falsos negativos similares, e a compressão de mídia social de uma chamada robô de Biden gerada por IA fez um detector chamar uma cópia de «altamente provável que seja real», enquanto o arquivo original não comprimido marcou 74% provável de ser falso.

A revisão também descobriu que detectores treinados principalmente em figuras públicas bem conhecidas, como um chefe de estado, tiveram desempenho pior em indivíduos menos conhecidos com pouca presença online, porque os modelos subjacentes tinham menos dados de referência verificados para comparar.

Juntando tudo

1. Inspecione a imagem ou vídeo para as inconsistências visuais e de áudio que a ESET lista, como iluminação antinatural, padrões de piscada ou incompatibilidades de sincronização labial.
2. Verifique se o arquivo possui metadados Content Credentials (C2PA) que divulguem geração por IA.
3. Se a imagem pode vir de um modelo Google, verifique-a com o detector SynthID do Google para obter um resultado de marca d'água.
4. Execute uma busca reversa de imagem com Google Lens ou TinEye para ver se a imagem apareceu em outro lugar em um contexto diferente.
5. Trate qualquer resultado único como inconclusivo por si só e compare a afirmação com a cobertura de organizações de notícias estabelecidas antes de compartilhá-la, conforme ambos o Reuters Institute e a ESET aconselham.