यह भाषा मशीन द्वारा अनुवादित है और किसी मानव द्वारा समीक्षा नहीं की गई है।

NIVΞCTOR
समाचारसहयोग

काउंटर अभी शुरू नहीं हुआ है

कृत्रिम बुद्धिमत्ता · गाइड

AI-जेनरेटेड छवियों और डीपफेक्स को कैसे पहचानें: एक चरण-दर-चरण मार्गदर्शिका

प्रकाशित:

संक्षेप में

कोई भी एक तरीका हर AI छवि को पकड़ नहीं सकता, लेकिन करीबी दृश्य जांच, मेटा डेटा खोज, रिवर्स इमेज खोज और — जहाँ उपलब्ध हो — प्रमाण या वॉटरमार्क जांच को मिलाकर अधिकांश नकली को पकड़ा जा सकता है। पता लगाने के उपकरण मदद करते हैं लेकिन अपने आप में विश्वसनीय नहीं हैं, रायटर्स इंस्टीट्यूट और गूगल डीपमाइंड के अनुसार।

यह संस्करण मूल पाठ (English) का मशीनी अनुवाद है। मूल पाठ पढ़ें

वास्तविक फोटोग्राफ को AI-निर्मित से अलग करने के लिए कोई एक अचूक परीक्षण नहीं है। इसके बजाय, शोधकर्ताओं और तथ्य-जांच संगठनों कई जांचों को जोड़ने की अनुशंसा करते हैं — दृश्य निरीक्षण, मेटाडेटा, प्रोवेनेंस डेटा और रिवर्स इमेज खोज — क्योंकि प्रत्येक विधि विभिन्न प्रकार के नकली को पकड़ता है और प्रत्येक को अपने आप में धोखा दिया जा सकता है।

चरण 1: छवि को स्वयं ध्यान से देखें

साइबर सुरक्षा फर्म ESET छवि के करीबी दृश्य पढ़ने से शुरू करने की सिफारिश करती है। चेतावनी संकेतों में असामान्य प्रकाश, बहुत चिकनी त्वचा बनावट, विषय के चारों ओर झिलमिलाती या धुंधली किनारी, गलत संरेखित आंखें, विकृत दांत और वीडियो में असामान्य पलक झपकने शामिल हैं। ध्वनि के साथ वीडियो के लिए, जांचें कि क्या ऑडियो मुंह की गतिविधियों से मेल खाता है, क्योंकि असमानताएं एक सामान्य डीपफेक संकेत हैं, ESET कहते हैं।

चरण 2: मेटाडेटा जांचें

ESET एक फ़ाइल के मेटाडेटा की समीक्षा करने की सलाह देता है, जिसमें निर्माण और संशोधन दिनांक शामिल हैं, क्योंकि डीपफेक टूल अक्सर इस जानकारी को हटाते या संशोधित करते हैं, जो विसंगतियां पैदा कर सकता है। अपेक्षित कैमरा या डिवाइस जानकारी की कमी, या फ़ाइल डेटा में AI-संपादन सॉफ़्टवेयर नामों की उपस्थिति एक सुराग हो सकती है, हालांकि मेटाडेटा को भी हटाया जा सकता है या नकली बनाया जा सकता है और इसे अपने आप में निश्चित नहीं माना जाना चाहिए।

चरण 3: रिवर्स इमेज खोज का उपयोग करें

रिवर्स इमेज खोज उपकरण जैसे Google Gambar या TinEye के माध्यम से छवि को चलाना यह प्रकट कर सकता है कि तस्वीर ऑनलाइन कहाँ दिखाई दी, किस संदर्भ में, और कब — इसकी पुष्टि करने में मदद करना कि क्या यह एक पुरानी तस्वीर है जो झूठे दावे के साथ फिर से प्रसारित की जा रही है या सच में एक नई छवि है, ESET नोट करते हैं।

चरण 4: सामग्री प्रमाणपत्र या वॉटरमार्क के लिए जांचें

सामग्री प्रामाणिकता पहल (CAI), C2PA मानक के पीछे का समूह, सामग्री प्रमाणपत्र को डिजिटल सामग्री के लिए एक प्रकार का 'पोषण लेबल' बताता है: क्रिप्टोग्राफिक रूप से हस्ताक्षरित मेटाडेटा जो यह रिकॉर्ड कर सकता है कि किसने एक छवि बनाई, कब, किन उपकरणों के साथ, और क्या AI शामिल था। साख छेड़छाड़-स्पष्ट हैं — यदि हस्ताक्षर करने के बाद छवि या इससे जुड़े डेटा को संशोधित किया जाता है, तो सामग्री प्रमाणपत्र उस परिवर्तन को फ़्लैग करेंगे, CAI के अनुसार।

हालांकि, CAI सीमाओं के बारे में स्पष्ट है: सामग्री प्रमाणपत्र यह घोषणा नहीं करते हैं कि सामग्री नकली या संशोधित है, और वे निर्माण उपकरण द्वारा पहली जगह में प्रमाणपत्र जोड़े जाने पर निर्भर करते हैं। C2PA का समर्थन नहीं करने वाले उपकरण के साथ बनाई गई एक AI छवि में कोई ऐसा लेबल नहीं होगा।

Google DeepMind का SynthID अलग तरीके से काम करता है: यह छवि के पिक्सल में सीधे एक अदृश्य डिजिटल वॉटरमार्क एम्बेड करता है जब छवि Google के Imagen मॉडल के साथ बनाई जाती है। Google कहते हैं कि वॉटरमार्क सामान्य संपादन जैसे फ़िल्टर, रंग परिवर्तन, संपीड़न और चमक समायोजन को सहन करता है, और एक पहचान उपकरण तीन परिणामों में से एक लौटाता है — 'पहचाना गया', 'नहीं पहचाना गया' या 'संभवतः पहचाना गया'। SynthID का वॉटरमार्क केवल Google के अपने मॉडल द्वारा उत्पादित छवियों पर काम करता है; यह Midjourney या Stable Diffusion जैसे अन्य जनरेटर द्वारा बनाई गई सामग्री की पहचान नहीं कर सकता, DeepMind के अनुसार।

चरण 5: स्वचालित डिटेक्टर टूल्स के साथ सावधानी बरतें

संगठन WITNESS के शोधकर्ताओं द्वारा एक मूल्यांकन, अप्रैल 2024 में रायटर्स इंस्टीट्यूट फॉर द स्टडी ऑफ जर्नलिज्म द्वारा प्रकाशित, फरवरी 2024 में आठ सार्वजनिक रूप से उपलब्ध डीपफेक डिटेक्टर पर परीक्षण किए गए — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID और एक ओपन-सोर्स AI छवि डिटेक्टर। यह पाया गया कि पहचान उपकरण केवल उतने अच्छे हैं जितने डेटा वे प्रशिक्षित थे: एक डिटेक्टर AI-निर्मित छवियों को पहचानने के लिए प्रशिक्षित चेहरे-स्वैप डीपफेक पर विफल हो सकता है, और मुख्य रूप से Volodymyr Zelenskyy जैसी प्रसिद्ध सार्वजनिक हस्तियों पर प्रशिक्षित उपकरण कम प्रसिद्ध लोगों के साथ संघर्ष करते हैं।

एक ही मूल्यांकन में पाया गया कि सरल संपादन डिटेक्टर को हरा सकते हैं। छवि को काटना, संपीड़ित करना या इसके संकल्प को कम करना कुछ उपकरणों को कृत्रिम सामग्री को वास्तविक के रूप में गलत तरीके से वर्गीकृत करने का कारण बना; एक प्रसिद्ध ओबामा डीपफेक वीडियो के संकल्प को कम करने और क्लिप के हिस्से को संपादित करने के बाद, एक डिटेक्टर 'No Deepfake Detected' का परिणाम दिया। AI-निर्मित अवतारों के स्क्रीनशॉट भी अक्सर मानव-निर्मित के रूप में गलत तरीके से वर्गीकृत किए गए, मूल्यांकन में पाया गया।

इसे एक साथ रखें

  1. प्रकाश, बनावट, आंख, हाथ और पृष्ठभूमि की विसंगतियों के लिए छवि को करीबी से निरीक्षण करें।
  2. उपलब्ध मेटाडेटा (कैमरा मॉडल, तारीखें, सॉफ़्टवेयर) में विसंगतियों के लिए जांचें।
  3. रिवर्स इमेज खोज चलाएं यह देखने के लिए कि छवि कहाँ और कब पहली बार दिखाई दी।
  4. सामग्री प्रमाणपत्र (C2PA) या SynthID वॉटरमार्क को देखें, यह समझते हुए कि न तो हर AI उपकरण को कवर करता है।
  5. यदि स्वचालित डिटेक्टर का उपयोग कर रहे हैं, तो इसके परिणाम को कई इनपुट में से एक मानें, अंतिम निर्णय नहीं — WITNESS शोधकर्ता ध्यान दें कि ऐसे उपकरण रिवर्स इमेज खोज और भू-स्थिति जैसी अन्य तकनीकों के साथ सर्वश्रेष्ठ काम करते हैं, अकेले समाधान नहीं।
  6. छवि के अनुलग्न दावे को प्रतिष्ठित समाचार संगठनों या तथ्य-जांच साइटों से क्रॉस-जांच करें।

इस सूची की कोई भी विधि अपने आप में पर्याप्त है। CAI, ESET और WITNESS/Reuters Institute का मूल्यांकन सभी एक ही निष्कर्ष पर आते हैं: प्रोवेनेंस डेटा, वॉटरमार्क और स्वचालित डिटेक्टर प्रत्येक समस्या के केवल एक भाग को कवर करते हैं, और कई जांचों को संयोजित करना — साथ ही साधारण संदेह कि छवि कहां से आई और कौन इसे साझा कर रहा है — आज उपलब्ध सबसे विश्वसनीय दृष्टिकोण बना हुआ है।

प्रश्न

क्या कोई ऐसा ऐप है जो सभी AI-निर्मित छवियों को विश्वसनीय रूप से पहचान सकता है?
नहीं। WITNESS मूल्यांकन के अनुसार जो रायटर्स इंस्टीट्यूट ने प्रकाशित किया, हर परीक्षित डिटेक्टर (Optic, Hive Moderation और Illuminarty सहित) में अंधे स्थान हैं और क्रॉपिंग या छवि को संपीड़ित करने जैसे सरल संपादन से धोखा खा सकते हैं।
SynthID क्या है और क्या यह किसी भी AI छवि पर काम करता है?
SynthID Google DeepMind का अदृश्य पिक्सल वॉटरमार्क है जो इसके Imagen मॉडल के साथ बनाई गई छवियों के लिए है। यह केवल Google के अपने उपकरणों द्वारा उत्पादित छवियों की पहचान करता है और Midjourney या Stable Diffusion जैसे अन्य जनरेटर से AI सामग्री की पहचान नहीं कर सकता।
क्या मैं किसी छवि पर भरोसा कर सकता हूं केवल इसलिए कि इस पर कोई दृश्यमान AI वॉटरमार्क नहीं है?
नहीं। सामग्री प्रामाणिकता पहल नोट करती है कि सामग्री प्रमाणपत्र केवल तभी दिखाई देते हैं यदि निर्माण उपकरण ने उन्हें जोड़ना चुना है, इसलिए एक गैर-भाग लेने वाले उपकरण के साथ बनाई गई AI छवि कोई लेबल भी नहीं दिखाएगी।
क्या मेटाडेटा की जांच यह साबित करती है कि फोटो वास्तविक है?
अपने आप में नहीं। ESET नोट करते हैं कि डीपफेक उपकरण अक्सर मेटाडेटा को हटाते या संशोधित करते हैं, इसलिए असंगत या लापता मेटाडेटा ध्यान देने योग्य एक सुराग है, अंतिम प्रमाण नहीं।
जब मुझे संदेह हो कि छवि नकली है तो सर्वोत्तम अभ्यास क्या है?
कई जांचों को संयोजित करें — करीबी दृश्य निरीक्षण, मेटाडेटा समीक्षा, रिवर्स इमेज खोज और जहाँ उपलब्ध हो प्रोवेनेंस/वॉटरमार्क उपकरण — किसी एक विधि पर भरोसा करने के बजाय, जैसा कि ESET और WITNESS/Reuters Institute के मूल्यांकन द्वारा अनुशंसित है।

स्रोत

  1. Content Authenticity Initiative — How it works (Content Credentials)
  2. ESET — How to detect deepfakes: A practical guide to spotting AI-generated misinformation
  3. Reuters Institute — Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail
  4. Google DeepMind — Identifying AI-generated images with SynthID

यह लेख कृत्रिम बुद्धिमत्ता से तैयार किया गया और प्रकाशन से पहले स्वचालित स्रोत-जाँच से गुज़रा। कोई गलती दिखे तो सुधार का अनुरोध करें। सुधार या उत्तर का अनुरोध करें · हम कैसे काम करते हैं

संबंधित लेख