AI生成画像とディープフェイクを見分ける方法：ステップバイステップガイド

実際の写真とAI生成画像を区別するための単一の完全な方法はありません。代わりに、研究者と事実確認組織は、複数のチェックを重ねることを推奨しています。つまり、目視検査、メタデータ、出所データ、逆画像検索です。各方法は異なる種類の偽物を検出し、各方法は単独では騙される可能性があるためです。

ステップ1：画像自体を注意深く見る

サイバーセキュリティ企業ESETは、画像の詳細な目視確認から始めることを推奨しています。警告信号には、不自然な照明、過度に滑らかな肌のテクスチャ、被写体周辺のちらつきやぼやけたエッジ、目の位置の不一致、歯の歪み、ビデオの異常なまばたきパターンが含まれます。音声付きビデオの場合、オーディオと口の動きが一致しているかを確認してください。ESETによると、不一致はディープフェイクの一般的な特徴です。

ステップ2：メタデータを確認する

ESETは、ディープフェイクツールがこの情報を頻繁に削除または変更するため、作成日や変更日を含むファイルのメタデータをレビューすることをお勧めします。これは注目する価値がある矛盾を作成できます。予想されるカメラまたはデバイス情報がない、またはファイルデータにAI編集ソフトウェア名が存在することは手がかりになる可能性がありますが、メタデータも削除または偽造される可能性があり、単独では確定的なものとして扱うべきではありません。

ステップ3：逆画像検索を使用する

Google ImagesやTinEyeなどの逆画像検索ツールを使用して画像を実行すると、その画像がオンラインの他の場所に表示されているかどうか、どのような文脈で、いつ表示されているかを明らかにできます。ESETによると、これは古い写真が虚偽の主張とともに再流通しているのか、それとも本当に新しい画像なのかを確認するのに役立ちます。

ステップ4：コンテンツ認証情報またはウォーターマークを確認する

Content Authenticity Initiative（CAI）は、C2PA標準の背後にあるグループであり、Content Credentialsをデジタルコンテンツの一種の「栄養ラベル」として説明しています。暗号的に署名されたメタデータで、誰が画像を作成したか、いつ、どのツールを使用したか、AIが関与したかどうかを記録できます。認証情報は改ざん防止です。CAIによると、署名後に画像またはその添付データが変更された場合、Content Credentialsはその変更にフラグを立てます。

ただし、CAIは制限について明確です。Content Credentialsはコンテンツが偽造または変更されたと宣言せず、作成ツールが最初に認証情報を追加していることに依存しています。C2PAをサポートしないツールで作成されたAI画像は、そのようなラベルをまったく持たないでしょう。

Google DeepMindのSynthIDは異なる方法で機能します。Google's Imagenモデルで作成された画像に、目に見えないデジタルウォーターマークを画像のピクセルに直接埋め込みます。Googleによると、ウォーターマークはフィルター、色の変更、圧縮、明度調整などの一般的な編集に耐えられます。検出ツールは3つの結果のいずれかを返します。「検出」、「検出されなかった」、または「おそらく検出」。DeepMindによると、SynthIDのウォーターマークはGoogleの独自モデルで生成された画像でのみ機能します。MidjourneyやStable Diffusionなどの他のジェネレータで作成されたコンテンツを特定することはできません。

ステップ5：自動検出器ツールに注意して対応する

WITNESS組織の研究者による評価は、2024年4月にロイター研究所によって発表されました。2024年2月に実施されたテストを8つの公開ディープフェイク検出器（Optic、Hive Moderation、V7、Invid、Deepware Scanner、Illuminarty、DeepID、およびオープンソースAI画像検出器）について調査しました。検出ツールは、それが訓練されたデータと同程度の性能しか発揮しないことがわかりました。AI生成画像を認識するために訓練された検出器は顔交換ディープフェイクで失敗する可能性があり、Volodymyr Zelenskyy などのよく知られた公人を主に対象に訓練されたツールは、有名でない人々と苦労しました。

同じ評価により、単純な編集が検出器を回避できることが判明しました。画像をトリミング、圧縮、または解像度を下げると、一部のツールが合成コンテンツを実際のものとして誤分類されました。よく知られたオバマディープフェイクビデオの解像度が低下し、クリップの一部が編集された後、検出器は「ディープフェイクは検出されません」という結果を返しました。評価によると、AI生成アバターのスクリーンショットも頻繁に人間が作成したものとして誤分類されました。

まとめると

1. 照明、テクスチャ、目、手、背景の矛盾について画像を詳しく検査します。
2. 利用可能なメタデータ（カメラモデル、日付、ソフトウェア）を異常がないか確認します。
3. 逆画像検索を実行して、画像がどこで、いつ最初に表示されたかを確認します。
4. 該当する場合はContent Credentials（C2PA）またはSynthIDウォーターマークを探します。どちらもすべてのAIツールをカバーしていないことを理解しています。
5. 自動検出器を使用する場合は、その結果を複数の入力の1つとして扱い、最終判決としてではなく扱います。WITNESS研究者によると、このようなツールは逆画像検索とジオロケーションなどの他の技術と一緒に使用した場合に最も効果的です。スタンドアロンソリューションとしてではなく。
6. 画像に添付された主張を信頼できるニュース組織または事実確認サイトに対して相互確認します。

このリスト上のどの方法も単独では十分ではありません。CAI、ESET、およびWITNESS/ロイター研究所の評価はすべて同じ結論に収束しています。出所データ、ウォーターマーク、自動検出器はそれぞれ問題の一部のみをカバーしており、複数のチェックを組み合わせる（および画像がどこから来たのか、誰が共有しているのかについて通常の懐疑心を示す）ことが、今日利用可能な最も信頼できるアプローチのままです。