جھوٹی تصاویر اور ایک آئی سے بنی تصاویر کی شناخت: مرحلہ وار رہنمائی

ایک جھوٹی تصویر یا ایک آئی سے بنی تصویر کو پکڑنے کے لیے کوئی واحد ٹول نہیں۔ سائبر سیکیورٹی کمپنی ESET اور آکسفورڈ یونیورسٹی کے Reuters انسٹیٹیوٹ برائے صحافت کے مطالعہ دونوں متعدد جانچیں ملانے کی سفارش کرتے ہیں — بصری معائنہ، منشا کے ڈیٹا، واٹر مارک کی شناخت اور منبع کی تصدیق — کیونکہ ہر طریقے کی معروف کمزوریاں ہیں۔

مرحلہ 1: بصری اور آواز کی عدم مطابقت تلاش کریں

ESET کی ایک آئی سے بنی غلط معلومات کو سنگھنے کی رہنمائی اہم بصری نشانیاں فہرست کرتی ہے: غیر فطری روشنی، بہت نرم جلد کی ساخت، ہلتے ہوئے کنارے اور دھندلی پس منظر۔ چہرے کی خصوصیات میں غلط سمت آنکھیں، بگڑے ہوئے دانت اور غیر معمولی آنکھوں کی جھپکنا شامل ہے۔ ویڈیو کے لیے، آواز اور بولنے والے کی ہونٹوں کی حرکت کے درمیان عدم مطابقت ہیرا پھیری کی عام نشانی ہے، ESET کے مطابق۔

ESET یہ بھی نوٹ کرتا ہے کہ جھوٹی تصاویر بنانے کے لیے استعمال ہونے والے ٹول اکثر کسی فائل کی تخلیق اور تبدیلی کی تاریخ کو تبدیل یا ختم کر دیتے ہیں، اس لیے عدم مطابقت والے ڈیٹا ایک ثانوی سراغ ہو سکتے ہیں۔

مرحلہ 2: Content Credentials (C2PA) کے لیے چیک کریں

Content Credentials، جو C2PA تکنیکی معیار پر مبنی ہے، Content Authenticity Initiative (CAI) کے مطابق کسی تصویر کے بارے میں معلومات اس لمحے ریکارڈ کرتا ہے جب اسے تخلیق کیا جاتا ہے اور اسے cryptographically دستخط کے ذریعے محفوظ رکھتا ہے۔ CAI اس ریکارڈ کو ڈیجیٹل مواد کے لیے ایک غذائی لیبل کی طرح بیان کرتا ہے، جو تخلیق کار، استعمال شدہ سافٹ ویئر یا ایک آئی ٹول، اور یہ کہ فائل کو ایک آئی کے ساتھ بنایا یا ترمیم کیا گیا ہے یا نہیں، جب تخلیق کار نے یہ معلومات شامل کی ہو۔

CAI واضح کرتا ہے کہ Content Credentials یہ اعلان کرنے کے لیے نہیں ہیں کہ مواد "حقیقی" ہے یا نہیں: وہ منشا کے بارے میں سیاق فراہم کرتے ہیں، نہ کہ فیصلہ۔ یہ نظام صرف اس صورت میں کام کرتا ہے اگر تخلیق کا ٹول اصل میں ایک مینی فیسٹ شامل کرے۔

مرحلہ 3: غیر نظر آنے والے واٹر مارک کی جانچ کریں، جیسے SynthID

Google کا SynthID ایک غیر نمایاں ڈیجیٹل واٹر مارک براہ راست تصاویر کے pixels میں شامل کرتا ہے جو اس کے Imagen ماڈل سے بنائی جاتی ہیں، Google DeepMind کے مطابق۔ ایک علیحدہ شناخت کا ماڈل تصویر کو اس نمونے کے لیے سکیٹ کرتا ہے اور تین نتائج میں سے ایک کی اطلاع دیتا ہے: واٹر مارک شناخت ہوا (شاید این آئی سے بنی)، شناخت نہیں ہوا (شاید این آئی سے نہیں بنی)، یا ممکنہ طور پر شناخت ہوا، جس میں DeepMind نتیجے کے ساتھ احتیاط سے رویہ کرنے کی سفارش کرتا ہے۔

DeepMind کہتا ہے کہ SynthID واٹر مارک عام ترمیماتوں جیسے فلٹرنگ، رنگ کی تبدیلی، گھمانا اور JPEG کمپریشن سے بچنے کے لیے ڈیزائن کیا گیا ہے۔ تاہم، یہ صرف ان تصاویر کو نشان زد کرتا ہے جو Imagen یا ایسے ساتھی ٹول سے تخلیق کے وقت watermarked تھے جو SynthID استعمال کرتے ہیں — ایسی تصویر ایک ایسے ماڈل سے جو SynthID استعمال نہیں کرتا "شناخت نہیں ہوا" کا نتیجہ واپس کرے گا چاہے وہ این آئی سے بنی ہو، DeepMind کی دستاویزات دکھاتی ہیں۔

مرحلہ 4: ریورس تصویر تلاش چلائیں

ریورس تصویر تلاش کے ٹول جیسے Google Lens یا TinEye ظاہر کر سکتے ہیں کہ آیا کوئی تصویر پہلے کسی مختلف سیاق میں پھیلائی گئی تھی، جو Reuters انسٹیٹیوٹ کے محققین کے مطابق پھیری ہوئی یا دوبارہ نام دی گئی بصریات کو پکڑنے کے سب سے قابل اعتماد طریقوں میں سے ایک ہے۔ اگر وہی تصویر کسی پرانی، غیرمتعلقہ کہانی سے منسلک نظر آتی ہے، تو یہ ایک مضبوط نشانی ہے کہ اس کے بارے میں موجودہ دعویٰ جھوٹا ہے، قطع نظر اس کے کہ تصویر خود این آئی سے بنی ہے یا نہیں۔

خودکار شناخت کار کو کیوں پھیری جا سکتی ہے

Reuters انسٹیٹیوٹ کے این آئی کی شناخت کے ٹولز کے جائزے میں پایا گیا کہ سادہ ترمیماتیں ان کو معمول کی شکست دیتی ہیں۔ جب محققین ایک Pentagon کے دھماکہ کو ظاہر کرنے والی ایک وائرل تصویر کو کاٹا اور بدلا، تو شناخت کا سافٹ ویئر اس ترمیم شدہ ورژن کو حقیقی قرار دیتا ہے۔ ایک معروف Obama جھوٹی تصویر ویڈیو کی تشہیر کو کم کرنا اور کاٹنا اسی طرح کے غلط منفی پیدا کیے، اور ایک این آئی سے بنی Biden robocall کے سوشل میڈیا کمپریشن نے ایک شناخت کار کو ایک نقل کو "بہت زیادہ حقیقی ہے" کہتا ہے، جبکہ اصل غیر کمپریسڈ فائل 74% جھوٹ ہونے کا امکان نکلا۔

جائزہ میں یہ بھی پایا گیا کہ شناخت کار جو بنیادی طور پر معروف عوامی شخصیات، جیسے کسی ملک کے سربراہ پر تیاری یافتہ تھے، کم معروف افراد پر بدتر کارکردگی دکھاتے تھے جن کی آن لائن موجودگی کم تھی، کیونکہ بنیادی ماڈلز کے پاس موازنہ کرنے کے لیے کم تصدیق شدہ حوالہ ڈیٹا تھا۔

سب کو ملا کر رکھیں

1. ESET کی فہرست میں سے تصویر یا ویڈیو کو بصری اور آواز کی عدم مطابقت کے لیے معائنہ کریں، جیسے غیر فطری روشنی، آنکھوں کی جھپکنا یا لب و سنک کی عدم مطابقت۔
2. چیک کریں کہ آیا فائل میں Content Credentials (C2PA) ڈیٹا ہے جو این آئی نسل کا اعلان کرتا ہے۔
3. اگر تصویر Google ماڈل سے ہو سکتی ہے، تو اسے واٹر مارک کے نتیجے کے لیے Google کے SynthID شناخت کار کے ساتھ چیک کریں۔
4. Google Lens یا TinEye کے ساتھ ریورس تصویر تلاش چلائیں تاکہ دیکھیں کہ تصویر کہیں اور کسی مختلف سیاق میں ظاہر ہوئی ہے یا نہیں۔
5. کسی بھی واحد نتیجے کو اپنے آپ میں قطعی نہ سمجھیں، اور اسے شیئر کرنے سے پہلے دعویٰ کا موازنہ قائم خبر تنظیموں سے کریں، جیسا کہ Reuters انسٹیٹیوٹ اور ESET دونوں مشورہ دیتے ہیں۔