如何識別深度偽造和AI生成的圖像：逐步指南

沒有任何單一工具能夠識別所有深度偽造或AI生成的圖像。網絡安全公司ESET和牛津大學路透新聞研究所都建議進行多層檢查——視覺檢查、來源元數據、水印檢測和來源驗證——因為每種方法都有已知的盲點。

第1步：查找視覺和音頻不一致之處

ESET關於識別AI生成虛假信息的指南首先列出了具體的視覺線索供檢查：不自然的照明、過度光滑的皮膚紋理、閃爍的邊緣和模糊的背景。值得檢查的面部異常包括眼睛錯位、牙齒扭曲和異常眨眼模式。對於視頻，根據ESET的說法，音頻與說話者唇部運動不匹配是操縱的常見跡象。

ESET還指出，用於創建深度偽造品的工具通常會改變或清除文件的創建和修改日期，因此不一致的元數據可能是次要線索。

第2步：檢查Content Credentials (C2PA)

根據Content Authenticity Initiative (CAI)的說法，建立在C2PA技術標準基礎上的Content Credentials在圖像創建時通過加密簽名來記錄有關圖像的信息。CAI將此記錄描述為數字內容的一種營養標籤，顯示創建者、使用的軟件或AI工具，以及檔案是否使用AI生成或編輯（當創建者包含該信息時）。

CAI明確指出，Content Credentials並非旨在聲稱內容是否「真實」：它們提供有關來源的背景，而不是判決。該系統還需要創建工具實際嵌入清單才能運作。

第3步：檢查隱形水印，例如SynthID

根據Google DeepMind的說法，Google的SynthID將難以察覺的數字水印直接嵌入其Imagen模型生成的圖像像素中。單獨的檢測模型會掃描圖像以尋找該模式，並報告三個結果之一：檢測到水印（可能是AI生成的）、未檢測到（不太可能是AI生成的）或可能檢測到，在這種情況下，DeepMind建議謹慎對待結果。

DeepMind表示，SynthID水印旨在承受常見的編輯，例如濾鏡、色彩調整、旋轉和JPEG壓縮。但是，它只標記由Imagen或使用SynthID的合作夥伴工具在創建時加水印的圖像——來自不使用SynthID的模型的圖像即使是AI生成的，也會返回「未檢測到」的結果，根據DeepMind的文檔。

第4步：進行反向圖像搜索

路透新聞研究所的研究人員指出，反向圖像搜索工具（如Google Lens或TinEye）可以揭示圖像是否曾在不同背景下流通，這是捕捉回收或重新標籤視覺內容的最可靠方法之一。如果同一圖片出現在較舊的無關故事中，這強烈表明當前的索賠是虛假的，無論圖像本身是否是AI生成的。

為什麼自動化檢測器仍然可能被愚弄

路透新聞研究所對AI檢測工具的審查發現，簡單的編輯經常會擊敗它們。當研究人員裁剪並縮放聲稱顯示Pentagon爆炸的病毒圖像時，檢測軟件將修改後的版本分類為真實的。降低分辨率和修剪著名的Obama深度偽造視頻產生了類似的假陰性，社交媒體壓縮的AI生成的Biden機器人電話導致一個檢測器稱複製品「非常可能真實」，而原始未壓縮的檔案評分為74%可能是假的。

該審查還發現，主要在知名公眾人物（如國家首腦）上訓練的檢測器在在線存在較少的鮮為人知的個人上表現更差，因為底層模型的驗證參考數據較少可供比較。

將其整合在一起

1. 檢查ESET列出的圖像或視頻中的視覺和音頻不一致之處，例如不自然的照明、眨眼模式或唇同步不匹配。
2. 檢查檔案是否帶有揭示AI生成的Content Credentials (C2PA)元數據。
3. 如果圖像可能來自Google模型，請使用Google的SynthID檢測器檢查水印結果。
4. 使用Google Lens或TinEye進行反向圖像搜索，查看圖像是否在其他背景下出現過。
5. 將任何單一結果視為本身不確定，並在分享之前將該索賠與已知新聞組織的報導進行比較，正如路透新聞研究所和ESET都建議的那樣。