كيفية اكتشاف عمليات التزييف العميق والصور المولدة بواسطة الذكاء الاصطناعي: دليل خطوة بخطوة
نُشر:
باختصار
يتطلب تحديد عملية تزييف عميق أو صورة مولدة بواسطة الذكاء الاصطناعي بشكل موثوق الجمع بين الفحوصات البصرية وأدوات الأصل مثل Content Credentials أو SynthID والبحث بالصور العكسية — لا توجد طريقة واحدة تمسك بكل عملية تزييف. يحذر باحثو الكشف من أن الأدوات الآلية يمكن خداعها بعمليات تحرير بسيطة مثل القص أو الضغط، لذا يبقى التحقق من السياق ضروريًا.
لا توجد أداة واحدة تمسك بكل عملية تزييف عميق أو صورة مولدة بواسطة الذكاء الاصطناعي. شركة الأمن السيبراني ESET ومعهد رويترز لدراسة الصحافة في جامعة أكسفورد يوصيان بدمج عدة فحوصات — الفحص البصري وبيانات وصول المنشأ والكشف عن العلامات المائية والتحقق من المصدر — لأن كل طريقة لها ثغرات معروفة.
الخطوة 1: ابحث عن التناقضات البصرية والصوتية
يسرد دليل ESET للكشف عن المعلومات الخاطئة المولدة بواسطة الذكاء الاصطناعي مؤشرات بصرية محددة للتحقق منها أولاً: الإضاءة غير الطبيعية وملمس الجلد الناعم بشكل مفرط والحواف الوامضة والخلفيات الضبابية. تشمل الشذوذ الوجهي الذي يجب فحصه العيون غير المحاذاة والأسنان المشوهة وأنماط الرمش غير العادية. بالنسبة للفيديو، يعتبر عدم تطابق الصوت مع حركات شفاه المتحدث علامة شائعة على التلاعب، وفقًا لـ ESET.
تلاحظ ESET أيضًا أن الأدوات المستخدمة في إنشاء عمليات التزييف العميق غالباً ما تغير أو تحذف تواريخ الإنشاء والتعديل في الملف، لذا قد تكون البيانات الوصفية غير المتسقة دليلاً ثانويًا.
الخطوة 2: تحقق من Content Credentials (C2PA)
تسجل Content Credentials، المبنية على معيار C2PA التقني، معلومات حول الصورة في اللحظة التي يتم إنشاؤها من خلال التوقيع عليها بشكل تشفيري، وفقًا لمبادرة أمان المحتوى (CAI). تصف مبادرة CAI هذا السجل بأنه نوع من ملصقات التغذية للمحتوى الرقمي، يوضح المنشئ والبرنامج أو أداة الذكاء الاصطناعي المستخدمة، وما إذا تم إنشاء الملف أو تعديله بواسطة الذكاء الاصطناعي، عندما تتضمن المعلومات المنشئ.
تؤكد مبادرة CAI صراحة أن بيانات Content Credentials لا تهدف إلى التصريح بما إذا كان المحتوى "حقيقيًا": فهي توفر السياق حول الأصل، وليس حكمًا. يعمل النظام أيضًا فقط إذا كانت أداة الإنشاء تضمن فعلاً بيان الأخرى.
الخطوة 3: تحقق من وجود علامة مائية غير مرئية، مثل SynthID
تضمن SynthID من Google علامة مائية رقمية غير قابلة للإدراك مباشرة في بكسلات الصور المولدة بواسطة نموذج Imagen، وفقًا لـ Google DeepMind. يقوم نموذج الكشف المنفصل بفحص الصورة للبحث عن هذا النمط ويعيد أحد النتائج الثلاث: تم الكشف عن علامة مائية (من المحتمل أن تكون مولدة بواسطة AI)، أو لم يتم اكتشافها (من غير المحتمل أن تكون مولدة بواسطة AI)، أو قد تكون مكتشفة، وفي هذه الحالة توصي DeepMind بمعاملة النتيجة بحذر.
تقول DeepMind إن علامة SynthID المائية مصممة للبقاء على قيد الحياة مع التعديلات الشائعة مثل الترشيح وتعديل اللون والدوران وضغط JPEG. ومع ذلك، فإنها تشير فقط إلى الصور التي تم وضع علامة مائية عليها عند الإنشاء بواسطة Imagen أو أدوات الشركاء التي تستخدم SynthID — ستعيد صورة من نموذج لا يستخدم SynthID نتيجة "عدم اكتشاف" حتى لو كانت مولدة بواسطة AI، وفقًا لتوثيق DeepMind.
الخطوة 4: قم بإجراء بحث عكسي للصور
يمكن لأدوات البحث العكسي للصور مثل Google Lens أو TinEye أن تكشف ما إذا كانت صورة متداولة في السابق في سياق مختلف، وهي واحدة من أكثر الطرق موثوقية للتقاط الصور المعاد استخدامها أو إعادة تسميتها، وفقًا لباحثي معهد رويترز. إذا ظهرت نفس الصورة مرفقة بقصة قديمة وغير ذات صلة، فهذا إشارة قوية على أن المطالبة الحالية حولها كاذبة، بغض النظر عما إذا كانت الصورة نفسها مولدة بواسطة AI.
لماذا يمكن الخلط بين الكاشفات الآلية
وجدت مراجعة معهد رويترز لأدوات الكشف عن AI أن التعديلات البسيطة تهزمها بشكل روتيني. عندما قام الباحثون بقص وتحجيم صورة فيروسية يُزعم أنها تظهر انفجار البنتاغون، قامت برامج الكشف بتصنيف النسخة المعدلة كأصلية. أسفرت تقليل الدقة وتقليص فيديو عملية تزييف أوباما الشهيرة عن نتائج إيجابية كاذبة مماثلة، وأسفرت ضغط وسائل التواصل الاجتماعي لاتصال روبوت AI بواسطة بايدن عن تصنيف أحد الكاشفات نسخة "عالية الاحتمال حقيقية"، بينما حصل الملف الأصلي غير المضغوط على 74٪ احتمالية أن يكون مزيفًا.
وجدت المراجعة أيضًا أن الكاشفات المدربة بشكل أساسي على الشخصيات العامة المعروفة، مثل رئيس دولة، كانت أداؤها أسوأ على أفراد أقل شهرة يتمتعون بوجود ضئيل عبر الإنترنت، لأن النماذج الأساسية كان لديها بيانات مرجعية موثوقة أقل للمقارنة معها.
جمع كل شيء معاً
افحص الصورة أو الفيديو بحثًا عن التناقضات البصرية والصوتية التي تسردها ESET، مثل الإضاءة غير الطبيعية وأنماط الرمش أو عدم تطابق المزامنة الشفهية.
تحقق مما إذا كان الملف يحمل بيانات وصفية من Content Credentials (C2PA) تكشف عن إنشاء AI.
إذا كانت الصورة قد تأتي من نموذج Google، فتحقق منها باستخدام كاشف SynthID من Google للحصول على نتيجة العلامة المائية.
قم بإجراء بحث عكسي للصور باستخدام Google Lens أو TinEye لمعرفة ما إذا كانت الصورة قد ظهرت في مكان آخر في سياق مختلف.
اعتبر أي نتيجة واحدة غير حاسمة بمفردها، وقارن المطالبة مقابل التغطية من المنظمات الإخبارية الراسخة قبل نشرها، كما ينصح معهد رويترز و ESET.
يمكن لأدوات الكشف الحسابية أن تكون نقطة انطلاق رائعة كجزء من عملية التحقق، جنباً إلى جنب مع تقنيات مفتوحة المصدر أخرى.
— معهد رويترز لدراسة الصحافة، جامعة أكسفورد
أسئلة
هل يمكن لتطبيق أو موقع ويب واحد أن يخبرني بشكل موثوق ما إذا كانت صورة عملية تزييف عميق؟
لا. تفيد كل من ESET ومعهد رويترز بأن أدوات الكشف الفردية يمكن التغلب عليها بعمليات تحرير بسيطة مثل القص أو تغيير الحجم أو الضغط، لذا يجب معاملة النتائج من أي أداة واحدة كنقطة انطلاق وليس كإجابة نهائية.
ما الفرق بين Content Credentials و SynthID؟
يعتبر Content Credentials (C2PA) بيانات وصفية توفرها أداة الإنشاء طواعية تعلن كيفية إنشاء الملف؛ SynthID عبارة عن علامة مائية غير مرئية على مستوى البكسل مضمنة بواسطة نموذج Imagen من Google والتي يتم التحقق منها باستخدام كاشف منفصل. يمكن أن يكون كلاهما غائباً حتى على الصور المولدة حقًا بواسطة AI إذا لم تدعم أداة الإنشاء أو تم تجريد البيانات الوصفية.
لماذا يقول كاشفو عمليات التزييف العميق أحيانًا أن صورة AI حقيقية أصلية؟
وجد معهد رويترز أن التعديلات مثل القص أو تقليل الدقة أو إعادة ضغط الملف لوسائل التواصل الاجتماعي يمكن أن تدفع نتيجة الكاشف نحو "أصلية" حتى عندما يكون المحتوى الأساسي مولداً بواسطة AI أو معدل.
ما هي العلامات البصرية التي يجب أن أبحث عنها أولاً في فيديو عملية تزييف عميق مريبة؟
توصي ESET بفحص اتساق الإضاءة وملمس الجلد ومحاذاة العيون وأنماط الرمش وما إذا كان الصوت يطابق حركات شفاه المتحدث.
هل يكتشف البحث العكسي للصور إنشاء AI؟
ليس بشكل مباشر — فهو يكتشف ما إذا كانت الصورة قد ظهرت عبر الإنترنت من قبل في سياق مختلف، وهو ما يلاحظ معهد رويترز أنه مفيد للتقاط الصور الحقيقية المعاد استخدامها والموصوفة بشكل خاطئ، منفصلة عن الكشف عن إنشاء AI نفسه.
جيفري هينتون، عالم الحاسوب الحائز على جائزة نوبل والمعروف بأنه 'إله الذكاء الاصطناعي'، يقول إن أفضل فرصة للبشرية للبقاء أمام الآلات الذكية المتزايدة هي تصميمها لتهتم حقاً بالناس، وليس فقط للامتثال لأوامرهم. متحدثاً في مهرجان ستارموس في تينيريفي في أكتوبر 2026، حذر هينتون من أنه بدون هذا التغيير، ستواجه البشرية عواقب وخيمة.
حقق مختبر أبحاث الذكاء الاصطناعي Flapping Airplanes من سان فرانسيسكو 1 مليار دولار في جولة Series A، مما رفع تقييمه إلى 6 مليارات دولار، أي حوالي أربع مرات من علامة 1.5 مليار دولار التي كان عليها بعد جولة البذور بقيمة 180 مليون دولار في يناير 2026. الشركة الناشئة التي تبلغ من العمر عاماً واحداً لا تملك حتى الآن منتجاً تجارياً وتركز على جعل تدريب نماذج الذكاء الاصطناعي أقل اعتماداً على كميات ضخمة من البيانات وقوة الحوسبة.
أدوات الذكاء الاصطناعي التوليدي مثل بوتات الدردشة وموليدات الصور ومساعدات البرمجة تقوم بتحويل الإدخال إلى بيانات رقمية، ثم بناء الإخراج خطوة بخطوة باستخدام الأنماط المتعلمة من مجموعات بيانات تدريب ضخمة. تتنبأ أدوات النصوص والأكواد بالرمز التالي في التسلسل باستخدام نماذج المحول، بينما تدريجياً تزيل أدوات الصور مثل Imagen الضوضاء من نمط عشوائي حتى تظهر صورة تطابق المطالبة النصية.
تُبنى روبوتات الدردشة بالذكاء الاصطناعي على نماذج اللغة الكبيرة (LLMs)، وهي شبكات عصبية تم تدريبها للتنبؤ بـ "الرمز" التالي في تسلسل نصي. تحول الكلمات إلى أرقام، وتستخدم آلية الانتباه لقياس كيفية ارتباط الكلمات ببعضها البعض، ثم يتم تحسينها بملاحظات بشرية لتتصرف كمساعدات مفيدة بدلاً من أدوات التنبؤ بالنصوص الخام.
