如何識別AI生成的圖像和深度偽造：逐步指南

沒有單一的萬無一失的測試方法來區分真實照片和AI生成的照片。相反，研究人員和事實核查機構建議進行多層檢查——視覺檢查、元數據、出處數據和反向圖像搜索——因為每種方法都能識別不同類型的假圖，而且每種方法單獨使用都可能被欺騙。

步驟1：仔細查看圖像本身

網絡安全公司ESET建議從仔細視覺查看圖像開始。警告信號包括不自然的光照、過於光滑的皮膚紋理、圍繞主體的閃爍或模糊邊緣、眼睛不對齊、牙齒扭曲和視頻中的異常眨眼模式。對於有聲音的視頻，檢查音頻是否與口形同步，因為不匹配是常見的深度偽造標誌，ESET表示。

步驟2：檢查元數據

ESET建議檢查文件的元數據，包括創建和修改日期，因為深度偽造工具經常刪除或更改此信息，這可能會造成值得注意的不一致。缺少預期的相機或設備信息，或文件數據中出現AI編輯軟件名稱，都可能是線索，但元數據也可能被刪除或偽造，不應單獨視為決定性證據。

步驟3：使用反向圖像搜索

通過Google圖像或TinEye等反向圖像搜索工具運行該圖像，可以揭示該圖片是否在其他地方在線出現、在什麼背景下以及何時出現——有助於確認它是舊照片被以虛假聲明重新流傳還是真正的新圖像，ESET指出。

步驟4：檢查內容憑證或水印

內容真實性倡議(CAI)是C2PA標準背後的組織，它將內容憑證描述為數字內容的一種「營養標籤」：以密碼方式簽署的元數據，可以記錄誰創建了圖像、何時創建、使用了什麼工具以及是否涉及AI。根據CAI的說法，這些憑證是防篡改的——如果圖像或其附加數據在簽署後被更改，內容憑證將標記該更改。

然而，CAI明確說明了其限制：內容憑證不聲明內容是假的或被更改的，它們依賴於創建工具首先添加憑證。用不支持C2PA的工具製作的AI圖像根本不會有任何標籤。

Google DeepMind的SynthID的工作方式不同：當使用Google的Imagen模型製作圖像時，它會直接在圖像的像素中嵌入一個不可見的數字水印。Google表示該水印能夠承受常見編輯，如濾鏡、顏色變化、壓縮和亮度調整，檢測工具返回三種結果之一——「已檢測」、「未檢測」或「可能已檢測」。根據DeepMind的說法，SynthID的水印僅適用於Google自有模型生成的圖像；它無法識別來自Midjourney或Stable Diffusion等其他生成器製作的內容。

步驟5：謹慎對待自動檢測工具

WITNESS組織的研究人員進行的評估於2024年4月由路透社新聞研究所發表，審查了2024年2月對八個公開可用的深度偽造檢測器——Optic、Hive Moderation、V7、Invid、Deepware Scanner、Illuminarty、DeepID和一個開源AI圖像檢測器——進行的測試。它發現檢測工具的性能只能達到它們被訓練數據的水平：為識別AI生成的圖像而訓練的檢測器可能在面孔交換深度偽造上失敗，主要針對沃洛迪米爾·澤連斯基等著名公眾人物訓練的工具在識別不太著名的人時會遇到困難。

同一評估發現簡單編輯可能會擊敗檢測器。裁剪、壓縮或降低圖像分辨率導致某些工具將合成內容錯誤分類為真實內容；在著名的奧巴馬深度偽造視頻的分辨率被降低並且部分片段被編輯後，檢測器返回了「未檢測到深度偽造」的結果。評估發現，AI生成頭像的屏幕截圖也經常被錯誤分類為人工製作。

綜合考慮

1. 仔細檢查圖像是否存在光照、紋理、眼睛、手和背景的不一致之處。
2. 檢查可用的元數據（相機型號、日期、軟件）是否存在異常。
3. 運行反向圖像搜索，查看圖像首次出現的位置和時間。
4. 尋找內容憑證(C2PA)或SynthID水印(如適用)，須理解這兩者都不能覆蓋每個AI工具。
5. 如果使用自動檢測器，將其結果視為多個輸入中的一個，而不是最終結論——WITNESS研究人員指出，這些工具與反向圖像搜索和地理位置等其他技術配合使用效果最佳，而不是作為獨立解決方案。
6. 將附加到圖像的聲明與信譽良好的新聞組織或事實核查網站進行交叉檢查。

這個列表上的任何方法單獨都不足以作為判斷依據。CAI、ESET和WITNESS/路透社研究所評估都得出相同的結論：出處數據、水印和自動檢測器各自只能解決問題的一部分，結合多項檢查——加上對圖像來源和分享者的普通懷疑——仍然是目前最可靠的方法。