هذه اللغة مترجمة آليًا، ولم تتم مراجعتها من قِبل إنسان.

NIVΞCTOR
الأخبارادعمنا

العدّاد لم يبدأ بعد

الذكاء الاصطناعي · دليل

كيفية اكتشاف الصور المولدة بالذكاء الاصطناعي والـ Deepfakes: دليل خطوة بخطوة

نُشر:

باختصار

لا توجد حيلة واحدة تكتشف كل صورة ذكاء اصطناعي، لكن دمج الفحص البصري الدقيق والبحث عن البيانات الوصفية والبحث العكسي عن الصور واختبار الأصل أو العلامة المائية حيث تكون متاحة يكتشف معظم الصور المزيفة. تساعد أدوات الكشف لكنها غير موثوقة بمفردها، وفقاً لمعهد رويترز وجوجل ديب مايند.

هذه النسخة ترجمة آلية للنص الأصلي (English). اقرأ النص الأصلي

لا يوجد اختبار واحد محكم للتمييز بين الصورة الفوتوغرافية الحقيقية والصورة المولدة بالذكاء الاصطناعي. بدلاً من ذلك، يوصي الباحثون وتنظيمات التحقق من الحقائق بتطبيق عدة فحوصات - الفحص البصري والبيانات الوصفية وبيانات الأصل والبحث العكسي عن الصور - لأن كل طريقة تكتشف أنواعاً مختلفة من الصور المزيفة وكل واحدة يمكن خداعها بمفردها.

الخطوة 1: انظر بعناية إلى الصورة نفسها

توصي شركة الأمن السيبراني ESET ببدء فحص بصري دقيق للصورة. تشمل علامات التحذير الإضاءة غير الطبيعية وملمس الجلد الناعم جداً والحواف المشوشة أو الوامضة حول الموضوع والعيون غير المتوازية والأسنان المشوهة وأنماط الرمش غير المعتادة في الفيديو. بالنسبة للفيديو مع الصوت، تحقق مما إذا كان الصوت يطابق حركات الفم، لأن عدم التطابق هو علامة شائعة من علامات الـ deepfake، وفقاً لـ ESET.

الخطوة 2: افحص البيانات الوصفية

تنصح ESET بمراجعة البيانات الوصفية للملف، بما في ذلك تواريخ الإنشاء والتعديل، لأن أدوات deepfake غالباً ما تزيل أو تعدل هذه المعلومات، مما قد يخلق عدم اتساق يستحق الملاحظة. عدم وجود معلومات الكاميرا أو الجهاز المتوقعة، أو وجود أسماء برامج تحرير الذكاء الاصطناعي في بيانات الملف، يمكن أن يكون دليلاً، على الرغم من أن البيانات الوصفية يمكن إزالتها أو تزييفها ولا ينبغي اعتبارها قاطعة بمفردها.

الخطوة 3: استخدم البحث العكسي عن الصور

تشغيل الصورة من خلال أداة البحث العكسي عن الصور مثل Google Images أو TinEye يمكن أن يكشف ما إذا كانت الصورة قد ظهرت في مكان آخر على الإنترنت، وفي أي سياق، وفي أي وقت - مما يساعد على تأكيد ما إذا كانت صورة قديمة يتم تداولها مع ادعاء كاذب أو صورة جديدة فعلاً، وفقاً لـ ESET.

الخطوة 4: تحقق من بيانات اعتماد المحتوى أو العلامات المائية

تصف مبادرة اعتماد المحتوى (CAI)، المجموعة التي وضعت معيار C2PA، بيانات اعتماد المحتوى بأنها نوع من 'ملصق التغذية' للمحتوى الرقمي: بيانات وصفية موقعة تشفيرياً يمكنها تسجيل من الذي أنشأ الصورة وفي أي وقت وباستخدام أي أدوات وما إذا كان الذكاء الاصطناعي متورطاً. بيانات الاعتماد مقاومة للتلاعب - إذا تم تعديل الصورة أو بيانات مرفقة بها بعد التوقيع، ستشير بيانات اعتماد المحتوى إلى هذا التغيير، وفقاً لـ CAI.

ومع ذلك، تكون مبادرة اعتماد المحتوى صريحة حول القيود: بيانات اعتماد المحتوى لا تعلن أن المحتوى مزيف أو معدل، وتعتمد على أداة الإنشاء التي أضافت بيانات الاعتماد في المقام الأول. صورة ذكاء اصطناعي مصنوعة بأداة لا تدعم C2PA لن تحمل أي ملصق على الإطلاق.

يعمل SynthID من Google DeepMind بشكل مختلف: يضمن علامة مائية رقمية غير مرئية مباشرة في بكسلات الصورة عند إنشاء الصورة باستخدام نموذج Imagen من Google. تقول Google أن العلامة المائية تبقى صامدة أمام التعديلات الشائعة مثل المرشحات وتغييرات الألوان والضغط وتعديلات السطوع، وتعيد أداة الكشف أحد النتائج الثلاث - 'مكتشوفة' أو 'غير مكتشوفة' أو 'قد تكون مكتشوفة'. علامة SynthID المائية تعمل فقط على الصور المنتجة من نماذج Google الخاصة؛ لا يمكنها تحديد المحتوى المصنوع بواسطة منشئين آخرين مثل Midjourney أو Stable Diffusion، وفقاً لـ DeepMind.

الخطوة 5: تعامل مع أدوات الكشف الآلية بحذر

وجدت تقييم أجرته باحثون في منظمة WITNESS، نشرت بواسطة معهد رويترز لدراسة الصحافة في أبريل 2024، اختبارات أجريت في فبراير 2024 على ثماني أدوات كشف deepfake متاحة للجمهور - Optic و Hive Moderation و V7 و Invid و Deepware Scanner و Illuminarty و DeepID وكاشف صور ذكاء اصطناعي مفتوح المصدر. لقد وجدت أن أدوات الكشف تؤدي بمستوى جودة البيانات التي تم تدريبها عليها فقط: يمكن لكاشف مدرب على التعرف على الصور المولدة بالذكاء الاصطناعي أن يفشل على deepfakes بتبديل الوجه، والأدوات المدربة في الغالب على شخصيات عامة مشهورة مثل فولوديمير زيلينسكي واجهت صعوبات مع الأشخاص الأقل شهرة.

وجد نفس التقييم أن التعديلات البسيطة يمكن أن تهزم الكاشفات. القص أو الضغط أو تقليل دقة الصورة تسبب بعض الأدوات بتصنيف خاطئ للمحتوى الاصطناعي كحقيقي؛ بعد تقليل دقة فيديو Obama deepfake معروف وتعديل جزء من المقطع، أعادت الكاشف نتيجة 'لم يتم اكتشاف Deepfake'. لقطات شاشة من الصور الرمزية المولدة بالذكاء الاصطناعي تم تصنيفها أيضاً بشكل متكرر بشكل خاطئ كصنع بشري، وجد التقييم.

ضع كل ذلك معاً

  1. افحص الصورة عن كثب بحثاً عن تناقضات الإضاءة والملمس والعين واليد والخلفية.
  2. تحقق من البيانات الوصفية المتاحة (نموذج الكاميرا والتواريخ والبرامج) بحثاً عن الشذوذ.
  3. قم بتشغيل بحث عكسي عن الصور لترى أين ومتى ظهرت الصورة لأول مرة.
  4. ابحث عن بيانات اعتماد المحتوى (C2PA) أو علامة مائية SynthID حيث تنطبق، مع فهم أن أي منها لا يغطي كل أداة ذكاء اصطناعي.
  5. إذا كنت تستخدم كاشفاً آلياً، تعامل مع نتيجته كمدخل واحد بين عدة مدخلات، وليس كحكم نهائي - يلاحظ باحثو WITNESS أن مثل هذه الأدوات تعمل بشكل أفضل جنباً إلى جنب مع تقنيات أخرى مثل البحث العكسي عن الصور والجيولوكيشن، وليس كحل مستقل.
  6. تحقق من الادعاء المرفق بالصورة مقابل منظمات إخبارية موثوقة أو مواقع التحقق من الحقائق.

لا توجد طريقة على هذه القائمة كافية بمفردها. توافق مبادرة اعتماد المحتوى وESTET وتقييم WITNESS/معهد رويترز على نفس الخلاصة: بيانات الأصل والعلامات المائية والكاشفات الآلية تغطي كل واحدة منها فقط جزء من المشكلة، والجمع بين عدة فحوصات - بالإضافة إلى الشكوك العادية حول من أين جاءت الصورة ومن يشاركها - يبقى النهج الأكثر موثوقية المتاح اليوم.

أسئلة

هل يوجد تطبيق واحد يكتشف بشكل موثوق جميع الصور المولدة بالذكاء الاصطناعي؟
لا. وفقاً لتقييم WITNESS الذي نشره معهد رويترز، كل كاشف تم اختباره (بما في ذلك Optic و Hive Moderation و Illuminarty) له نقاط عمياء ويمكن خداعه بتعديلات بسيطة مثل القص أو ضغط الصورة.
ما هو SynthID وهل يعمل على أي صورة ذكاء اصطناعي؟
SynthID هو علامة مائية بكسلات غير مرئية من Google DeepMind للصور المصنوعة باستخدام نموذج Imagen. يكتشف فقط الصور المولدة بأدوات Google الخاصة ولا يمكنه تحديد محتوى الذكاء الاصطناعي من منشئين آخرين مثل Midjourney أو Stable Diffusion.
هل يمكنني أن أثق في الصورة فقط لأنها لا تحتوي على علامة مائية مرئية للذكاء الاصطناعي؟
لا. تلاحظ مبادرة اعتماد المحتوى أن بيانات اعتماد المحتوى تظهر فقط إذا اختارت الأداة المنشئة إضافتها، لذلك صورة ذكاء اصطناعي مصنوعة باستخدام أداة غير مشاركة لن تعرض أي ملصق على الإطلاق.
هل يثبت فحص البيانات الوصفية ما إذا كانت الصورة حقيقية؟
ليس بمفردها. تلاحظ ESET أن أدوات deepfake غالباً ما تزيل أو تعدل البيانات الوصفية، لذا فإن البيانات الوصفية غير المتسقة أو الناقصة هي دليل يستحق الملاحظة، وليس دليلاً نهائياً.
ما هو أفضل ممارسة واحدة عندما أشك في أن الصورة مزيفة؟
دمج عدة فحوصات - الفحص البصري الدقيق ومراجعة البيانات الوصفية والبحث العكسي عن الصور وأدوات الأصل/العلامة المائية حيث تكون متاحة - بدلاً من الاعتماد على طريقة واحدة، كما يوصي بها كل من ESET وتقييم WITNESS/معهد رويترز.

المصادر

  1. Content Authenticity Initiative — How it works (Content Credentials)
  2. ESET — How to detect deepfakes: A practical guide to spotting AI-generated misinformation
  3. Reuters Institute — Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail
  4. Google DeepMind — Identifying AI-generated images with SynthID

أُعدّت هذه المادة بالذكاء الاصطناعي وخضعت لتدقيق آلي للمصادر قبل النشر. إن رأيت خطأً فاطلب تصحيحه. طلب تصحيح أو حق الرد · كيف نعمل

مواد ذات صلة