如何识别深度伪造和AI生成的图像：分步指南

没有单一工具能够识别每一个深度伪造或AI生成的图像。网络安全公司ESET和牛津大学新闻研究所（Reuters Institute for the Study of Journalism）都建议分层进行多项检查——视觉检查、溯源元数据、水印检测和源验证——因为每种方法都存在已知的盲点。

第1步：寻找视觉和音频不一致

ESET识别AI生成虚假信息的指南列出了要首先检查的具体视觉线索：不自然的光线、过于光滑的皮肤纹理、闪烁的边缘和模糊的背景。值得检查的面部异常包括眼睛不对齐、牙齿扭曲和不寻常的眨眼模式。根据ESET的说法，对于视频内容，音频与说话者唇部动作不匹配是操纵的常见标志。

ESET还指出，用于创建深度伪造的工具经常改变或删除文件的创建和修改日期，因此不一致的元数据可以是辅助线索。

第2步：检查Content Credentials (C2PA)

根据内容真实性倡议（Content Authenticity Initiative, CAI），Content Credentials建立在C2PA技术标准之上，通过加密签名在图像创建时记录有关信息。CAI将此记录描述为数字内容的一种营养标签，显示创建者、使用的软件或AI工具，以及如果创建者包含了该信息，文件是否是使用AI生成或编辑的。

CAI明确指出，Content Credentials并非用来宣告内容是否"真实"的：它们提供有关来源的背景信息，而不是做出判决。该系统也仅在创建工具实际嵌入清单时才有效。

第3步：检查隐形水印，例如SynthID

根据Google DeepMind的说法，Google的SynthID将难以察觉的数字水印直接嵌入其Imagen模型生成的图像像素中。一个单独的检测模型扫描图像以查找该模式，并报告三个结果之一：检测到水印（可能是AI生成的）、未检测到（不太可能是AI生成的）或可能检测到，在这种情况下，DeepMind建议谨慎对待结果。

DeepMind表示，SynthID水印被设计为能够在过滤、颜色调整、旋转和JPEG压缩等常见编辑中存活。但是，它只标记在Imagen或使用SynthID的合作工具创建时被加水印的图像——来自不使用SynthID的模型的图像即使是AI生成的，也会返回"未检测到"的结果，正如DeepMind的文档所示。

第4步：运行反向图像搜索

牛津大学新闻研究所的研究人员指出，Google Lens或TinEye等反向图像搜索工具可以揭示图像是否曾在不同背景下流通，这是捕获回收或重新标记视觉内容的最可靠方法之一。如果同一图片出现在较旧的、不相关的故事中，这是当前关于它的声称是虚假的强有力信号，与图像本身是否是AI生成的无关。

为什么自动化检测器仍然可能被愚弄

路透新闻研究所对AI检测工具的审查发现，简单的编辑通常会击败它们。当研究人员裁剪和缩放据称显示五角大楼爆炸的病毒图像时，检测软件将修改后的版本分类为真实的。降低分辨率并修剪一个众所周知的奥巴马深度伪造视频产生了类似的假阴性，而社交媒体压缩的AI生成的拜登机器人电话导致一个检测器称该副本"极有可能是真实的"，而原始未压缩文件的虚假概率为74%。

审查还发现，主要针对众所周知的公众人物（如国家首脑）训练的检测器在鲜为人知的个人身上表现更差，因为这些人在线存在很少，因为底层模型的已验证参考数据较少可供比较。

整合在一起

1. 检查图像或视频是否存在ESET列出的视觉和音频不一致，例如不自然的光线、眨眼模式或唇部同步不匹配。
2. 检查文件是否包含披露AI生成的Content Credentials (C2PA)元数据。
3. 如果图像可能来自Google模型，请使用Google的SynthID检测器检查是否有水印结果。
4. 使用Google Lens或TinEye运行反向图像搜索，查看图像是否曾在其他地方以不同背景出现。
5. 将任何单一结果视为本身不确定的，并在分享前将声称与来自知名新闻组织的报道进行比较，正如牛津大学新闻研究所和ESET都建议的那样。