ディープフェイクとAI生成画像を見分ける方法：ステップバイステップガイド

ディープフェイクやAI生成画像を検出できる単一のツールはありません。サイバーセキュリティ企業ESETとオックスフォード大学ジャーナリズム研究所の両方が、複数のチェック—視覚的検査、出所メタデータ、透かし検出、出所確認—を組み合わせることを推奨しています。各方法には既知の盲点があるためです。

ステップ1：視覚的および音声的不整合を探す

AI生成のみせかけに関するESETのガイドは、まず確認すべき具体的な視覚的手がかりをリストしています：不自然な照明、過度に滑らかな肌のテクスチャ、ちらつく端、ぼやけた背景。確認する価値のある顔の異常には、目のずれ、歪んだ歯、異常なまばたきパターンが含まれます。ビデオの場合、音声と話者のリップシンクの不一致は操作の一般的な兆候です。ESETによると。

ESETはまた、ディープフェイク作成に使用されるツールがファイルの作成日および変更日を変更または削除することが多いため、矛盾したメタデータが二次的な手がかりになる可能性があることに注意しています。

ステップ2：Content Credentials（C2PA）を確認する

Content Credentials（C2PA技術標準に基づいて構築）は、暗号署名を通じて、作成時の画像に関する情報を記録します。コンテンツ認証イニシアチブ（CAI）は、このレコードをデジタルコンテンツの栄養表示のようなものとして説明し、作成者、使用されたソフトウェアまたはAIツール、およびファイルがAIで生成または編集されたかどうかを表示します（作成者がその情報を含める場合）。

CAIは、Content Credentialsがコンテンツが「実物」であるかどうかを宣言することを意図していないことを明示しています。それらは出所に関するコンテキストを提供し、判決ではありません。このシステムは、作成ツールが実際にマニフェストを埋め込む場合にのみ機能します。

ステップ3：SynthIDなどの見えない透かしを確認する

GoogleのSynthIDは、GoogleのImagenモデルによって生成された画像のピクセルに知覚できないデジタル透かしを直接埋め込みます。別の検出モデルが画像パターンをスキャンし、3つの結果のいずれかを報告します：透かし検出（AI生成の可能性が高い）、検出なし（AI生成の可能性は低い）、または検出の可能性あり（DeepMindは結果に慎重に対応することを推奨）。

DeepMindは、SynthID透かしがフィルタリング、色調整、回転、JPEG圧縮などの一般的な編集に耐えるように設計されていると述べています。ただし、ImagenまたはSynthIDを使用するパートナーツールで作成時に透かしが付けられた画像にのみフラグを付けます。SynthIDを使用しないモデルからの画像は、AI生成されたものであっても「検出なし」という結果を返します。DeepMindのドキュメントに示されています。

ステップ4：逆画像検索を実行する

Google LensやTinEyeなどの逆画像検索ツールは、画像が以前に異なるコンテキストで流通したかどうかを明かすことができます。これはロイターズ研究所の研究者によると、リサイクルまたはリラベル付けされた画像を検出するための最も信頼できる方法の1つです。同じ画像が古い無関係なストーリーに添付されている場合、それは現在の主張が偽造である強い信号です。画像自体がAI生成されたかどうかとは無関係です。

自動検出器が騙される理由

AI検出ツールのロイターズ研究所レビューは、単純な編集が日常的にこれらのツールを破ることを発見しました。ペンタゴン爆発を示すと主張するウイルス画像をトリミングおよびスケーリングしたとき、検出ソフトウェアは変更されたバージョンを真正として分類しました。解像度を低下させて有名なObamaディープフェイクビデオをトリミングしても同様の偽陰性が生成されました。またAI生成されたBidenロボコールのソーシャルメディア圧縮により、1つの検出器はコピーを「非常にリアルである可能性が高い」と呼び出す一方、元の圧縮されていないファイルは74％がフェイクである可能性が高いというスコアを獲得しました。

レビューはまた、国家元首などのよく知られた公務員を主に訓練された検出器が、基礎となるモデルが比較するための確認された参照データが少ないため、オンラインプレゼンスが少ないあまり知られていない個人でのパフォーマンスが低下することを発見しました。

すべてを組み立てる

1. ESETがリストするような視覚的および音声的不整合について画像またはビデオを検査します：不自然な照明、まばたきパターン、またはリップシンク不一致。
2. ファイルがContent Credentials（C2PA）メタデータを含むかどうかを確認してAI生成を開示します。
3. 画像がGoogleモデルから来ている場合、Google SynthID検出器で確認して透かしの結果を確認してください。
4. Google LensまたはTinEyeを使用して逆画像検索を実行し、画像が他の場所で異なるコンテキストで表示されているかどうかを確認してください。
5. 単一の結果を独自では決定的なものとして扱わず、ロイターズ研究所とESETの両方が推奨するように、共有する前に確立されたニュース機関からのカバレッジに対してクレームを比較してください。