如何识别AI生成的图像和深度伪造：逐步指南

没有单一的万无一失的测试可以区分真实照片和AI生成的照片。相反，研究人员和事实核查机构建议进行多层检查——视觉检查、元数据、来源数据和反向图像搜索——因为每种方法都能识别不同类型的伪造品，并且每种方法单独使用都可能被欺骗。

第一步：仔细查看图像本身

网络安全公司ESET建议从对图像进行仔细的视觉阅读开始。警告信号包括不自然的光线、过度光滑的皮肤纹理、受试者周围闪烁或模糊的边缘、眼睛错位、牙齿扭曲和视频中异常的眨眼模式。对于有声音的视频，检查音频是否与口部运动相匹配，因为不匹配是深度伪造的常见标志，ESET表示。

第二步：检查元数据

ESET建议查看文件的元数据，包括创建和修改日期，因为深度伪造工具经常删除或更改此信息，这可能会造成值得注意的不一致。缺少预期的相机或设备信息，或文件数据中存在AI编辑软件名称，都可能是线索，尽管元数据也可以被删除或伪造，不应单独视为最终证据。

第三步：使用反向图像搜索

通过Google Images或TinEye等反向图像搜索工具运行图像可以揭示该图片是否在网络上其他地方出现过、出现的背景以及出现的时间——这有助于确认它是否是被重新传播的旧照片（伴随虚假声称）或真正新的图像，ESET指出。

第四步：查找内容凭证或水印

内容真实性倡议(CAI)是C2PA标准背后的组织，它将内容凭证描述为一种数字内容的"营养标签"：密码学签署的元数据，可以记录谁创建了图像、何时创建、用什么工具创建，以及是否涉及AI。根据CAI的说法，凭证是防篡改的——如果签署后对图像或其附加数据进行了更改，内容凭证将标记该更改。

然而，CAI明确说明了局限性：内容凭证不声明内容是伪造的或被更改的，它们依赖于创建工具首先添加了凭证。使用不支持C2PA的工具制作的AI图像根本不会携带这样的标签。

Google DeepMind的SynthID的工作方式不同：当使用Google的Imagen模型生成图像时，它会将不可见的数字水印直接嵌入图像的像素中。Google表示水印可以在常见编辑（如过滤器、颜色更改、压缩和亮度调整）后保留，检测工具返回三个结果之一——"已检测"、"未检测"或"可能已检测"。根据DeepMind的说法，SynthID的水印仅适用于Google自有模型生成的图像；它无法识别由Midjourney或Stable Diffusion等其他生成器制作的内容。

第五步：谨慎对待自动检测工具

由WITNESS组织的研究人员进行的评估在2024年4月由路透社新闻学研究所发布，该评估审查了2024年2月进行的8个公开可用深度伪造检测器的测试——Optic、Hive Moderation、V7、Invid、Deepware Scanner、Illuminarty、DeepID和一个开源AI图像检测器。评估发现检测工具的性能取决于其训练数据的质量：针对识别AI生成图像进行训练的检测器可能在人脸交换深度伪造上失败，主要针对著名公众人物（如弗拉基米尔·泽连斯基）进行训练的工具在识别不太著名的人时存在困难。

相同的评估发现简单的编辑可以击败检测器。裁剪、压缩或降低图像分辨率导致某些工具将合成内容误分类为真实内容；在众所周知的奥巴马深度伪造视频的分辨率被降低并编辑了部分视频后，检测器返回了"未检测到深度伪造"的结果。AI生成头像的截图也经常被错误分类为人类制作，评估发现。

总结一下

1. 仔细检查图像中的光线、纹理、眼睛、手和背景不一致。
2. 检查可用的元数据（相机型号、日期、软件）是否异常。
3. 运行反向图像搜索以查看图像首次出现的位置和时间。
4. 查找内容凭证(C2PA)或适用的SynthID水印，理解这两者都不能覆盖所有AI工具。
5. 如果使用自动检测器，将其结果视为多个输入之一，而不是最终判决——WITNESS研究人员指出此类工具与反向图像搜索和地理定位等其他技术配合使用效果最好，而不是作为独立解决方案。
6. 根据信誉良好的新闻机构或事实核查网站交叉检查附加到图像的声称。

此列表中的任何方法单独都不足够。CAI、ESET和WITNESS/路透社研究所评估都得出相同的结论：来源数据、水印和自动检测器各自只能解决问题的一部分，结合多项检查以及对图像来源和谁在分享它的普通怀疑仍然是今天最可靠的方法。