डीपफेक्स की व्याख्या: कैसे AI द्वारा निर्मित वीडियो गोपनीयता और पहचान को धमकाता है
प्रकाशित:
संक्षेप में
डीपफेक एक वीडियो या छवि है जो कृत्रिम बुद्धिमत्ता के साथ बनाई जाती है जो किसी वास्तविक व्यक्ति के चेहरे या शरीर को ऐसी फुटेज में डालती है जो उन्होंने कभी रिकॉर्ड नहीं किया। यह मुद्दा अक्टूबर 2026 की शुरुआत में सुर्खियों में लौटा जब ''छत्तामले'' गीत पर आधारित एक हेरफेर किया गया क्लिप ने अभिनेत्री जन्हवी कपूर की समानता को स्पष्ट फुटेज में रूपांतरित किया, जिससे सह-अभिनेता Jr NTR ने कानूनी कार्रवाई का वचन दिया। यह घटना दर्शाती है कि ऐसे वीडियो ऑनलाइन कितनी तेजी से फैलते हैं और कानून अभी भी इस तकनीक से कितना पीछे हैं।
यह संस्करण मूल पाठ (English) का मशीनी अनुवाद है। मूल पाठ पढ़ें
3 अक्टूबर 2026 को, अभिनेता Jr NTR ने कहा कि वे कानूनी कार्रवाई करेंगे जब एक AI-हेरफेर किए गए वीडियो गीत ''छत्तामले'' के आधार पर, 2024 की तेलुगु फिल्म Devara: Part 1 से, ऑनलाइन संचलन करने लगे, ThePrint की एक रिपोर्ट के अनुसार। क्लिप ने सह-अभिनेत्री जन्हवी कपूर की उपस्थिति को डिजिटल रूप से बदल दिया जो यौन रूप से स्पष्ट कल्पना बनाने के लिए, रिपोर्ट ने कहा।
छत्तामले वीडियो विवाद
Jr NTR ने X पर एक बयान पोस्ट किया जिसमें वीडियो को घृणित, बीमार और निर्लज्ज बताया, ThePrint ने रिपोर्ट किया। उन्होंने कहा कि वे जिम्मेदारों को नहीं छोड़ेंगे और जो लोग क्लिप बनाते हैं और इसे फैलाते हैं उनके खिलाफ हर संभव कानूनी कार्रवाई करेंगे, यह जोड़ते हुए कि वे ऐसी AI दुरुपयोग पर मजबूत सरकारी विनियमन चाहते हैं। जन्हवी कपूर ने अलग से जनता से अपील की कि वे क्लिप बनाएं, साझा करें या बढ़ावा न दें और कहा कि इसमें शामिल लोगों के खिलाफ कानूनी कार्रवाई की जाएगी, एक ही रिपोर्ट के अनुसार।
इसके लिए जिम्मेदार जो कोई भी हो उसे नहीं छोड़ा जाना चाहिए। उन्हें सबसे कठोर संभावित कानूनी परिणाम का सामना करना चाहिए और उदाहरण के लिए बनाया जाना चाहिए।
— Vijay Deverakonda, अभिनेता, AP7AM द्वारा उद्धृत
अभिनेता Vijay Deverakonda ने सार्वजनिक रूप से AI दुरुपयोग के खिलाफ मजबूत कानूनों के लिए Jr NTR की अपील का समर्थन किया, AP7AM के अनुसार। उन्होंने तर्क दिया कि इस तरह की हेरफेर की गई सामग्री को कानूनी प्रणाली द्वारा यौन हमले जैसी गंभीरता के साथ व्यवहार किया जाना चाहिए, और उन्होंने निरोधक के रूप में जिम्मेदार लोगों को दंडित किए जाने का आह्वान किया।
डीपफेक वास्तव में क्या है
छत्तामले वीडियो एक अलग-थलग मामला नहीं है। नवंबर 2023 में, एक हेरफेर किए गए क्लिप ने अभिनेत्री Rashmika Mandanna के चेहरे को एक अलग महिला के शरीर पर स्थानांतरित किया, ब्रिटिश-भारतीय सोशल मीडिया उपयोगकर्ता Zara Patel, एक लिफ्ट में फिल्माया गया, The Tribune के अनुसार। मंडना ने उस समय कहा कि यह अनुभव अत्यंत भयानक था, न केवल उसके लिए बल्कि सामान्य रूप से महिलाओं के लिए, और चेतावनी दी कि सहायता प्रणाली के बिना महिलाएं विशेष रूप से कमजोर हो सकती हैं। उनकी Goodbye की सह-अभिनेत्री Amitabh Bachchan ने जवाब दिया कि यह कानूनी कार्रवाई के लिए एक मजबूत मामला था, एक ही रिपोर्ट ने कहा।
डीपफेक कृत्रिम बुद्धिमत्ता मॉडल का उपयोग करते हैं जो किसी व्यक्ति की वास्तविक छवियों, वीडियो या ऑडियो पर प्रशिक्षित होते हैं ताकि नई फुटेज बनाई जा सके जो यह प्रकट करती है कि उन्होंने कुछ कहा या किया जो उन्होंने वास्तव में नहीं किया। वही अंतर्निहित तकनीक किसी की आवाज को क्लोन कर सकती है, एक चेहरे को दूसरे शरीर पर स्वैप कर सकती है, या पूरी तरह से सिंथेटिक दृश्य उत्पन्न कर सकती है, यही कारण है कि छत्तामले और Rashmika Mandanna दोनों घटनाओं में एक सेलिब्रिटी की समानता को किसी और की रिकॉर्ड की गई फुटेज पर रोपण करना शामिल था।
समस्या कितनी व्यापक हो गई है
शोध फर्म DeepStrike द्वारा संकलित डेटा और StationX द्वारा उद्धृत दिखाता है कि ऑनलाइन डीपफेक की मात्रा 2023 में लगभग 500,000 से 2025 तक लगभग 8 मिलियन तक बढ़ गई। पहचान-सत्यापन फर्म Sensity AI के अलग आंकड़े, साथ ही StationX द्वारा उद्धृत, इंगित करते हैं कि गैर-सहमत यौन सामग्री ऑनलाइन पाई गई डीपफेक वीडियो का बड़ा हिस्सा बनाती है, और उनमें दर्शाए गए लोगों का भारी बहुमत महिलाएं हैं।
संख्या में डीपफेक्स
मापदंड
आंकड़ा
स्रोत
2023 बनाम 2025 में ऑनलाइन डीपफेक वीडियो
~500,000 → ~8 मिलियन
DeepStrike, StationX के माध्यम से
डीपफेक वीडियो का हिस्सा जो गैर-सहमत यौन सामग्री है
98%
Sensity AI, StationX के माध्यम से
गैर-सहमत डीपफेक में दिखाए गए लोगों का हिस्सा जो महिलाएं हैं
99–100%
Sensity AI, StationX के माध्यम से
2022 बनाम 2025 में वैश्विक धोखाधड़ी प्रयासों के शेयर में डीपफेक्स
0.1% → 6.5%
Sumsub, StationX के माध्यम से
सिंथेटिक मीडिया पर भारत के नए नियम
भारत के Electronics and Information Technology मंत्रालय (MeitY) ने IT (Intermediary Guidelines and Digital Media Ethics Code) Rules में 22 अक्टूबर 2025 को घोषणा में संशोधन किया जो स्पष्ट रूप से जो कुछ इसे ''कृत्रिम रूप से उत्पन्न जानकारी'' कहते हैं - सामग्री जो कृत्रिम रूप से या एल्गोरिथ्मिक रूप से बनाई, उत्पन्न, संशोधित या परिवर्तित की गई है और उचित रूप से प्रामाणिक प्रतीत होती है, Khurana & Khurana के कानूनी विश्लेषण के अनुसार।
दृश्य डीपफेक को पूरी क्लिप की अवधि के दौरान कम से कम 10% फ्रेम को कवर करने वाले स्थायी ऑन-स्क्रीन लेबल ले जाने चाहिए।
ऑडियो डीपफेक को प्लेबैक के पहले 10% के दौरान सुनाई देने वाली प्रकटीकरण ले जानी चाहिए जिसे प्लेटफॉर्म या उपयोगकर्ताओं द्वारा निकाला नहीं जा सकता।
5 मिलियन से अधिक मासिक सक्रिय उपयोगकर्ताओं वाले प्लेटफॉर्मों को यह सत्यापित करने के लिए तकनीकी उपायों को तैनात करना चाहिए कि क्या अपलोड की गई सामग्री सिंथेटिक है।
Sadhguru मामले में एक अलग अदालत का फैसला, मई 2025 से, प्लेटफॉर्मों के लिए जब सूचित किया जाए तो उल्लंघन करने वाली डीपफेक सामग्री को हटाने के लिए 36 घंटे की खिड़की निर्धारित करता है।
निजी संदेश और अप्रकाशित ड्राफ्ट नई लेबलिंग और टेकडाउन कर्तव्यों के दायरे से बाहर हैं।
संशोधन अपने आप में छत्तामले वीडियो जैसे मामलों को हल नहीं करता है, जिसे Jr NTR और जन्हवी कपूर दोनों ने मौजूदा कानूनी चैनलों के माध्यम से आगे बढ़ाने के लिए कहा है नई लेबलिंग फ्रेमवर्क के बजाय। लेकिन यह विशेष रू�� से AI-निर्मित प्रतिरूपण के आसपास लिखा गया भारत का पहला नियम सेट है, बड़े प्लेटफॉर्मों पर सीधे टेकडाउन और सत्यापन दायित्व रखता है बजाय व्यक्तिगत मुकदमों के लिए केवल प्रवर्तन छोड़ देने के।
प्रश्न
डीपफेक क्या है?
डीपफेक एक वीडियो, छवि या ऑडियो क्लिप है जो कृत्रिम बुद्धिमत्ता के साथ बनाई जाती है जो किसी वास्तविक व्यक्ति के चेहरे, शरीर या आवाज को ऐसी सामग्री में रखती है जो उन्होंने वास्तव में कभी नहीं बनाई, अक्सर उस व्यक्ति की मौजूदा फुटेज पर एक AI मॉडल को प्रशिक्षित करके।
Jr NTR और जन्हवी कपूर के मामले में क्या हुआ?
फिल्म Devara: Part 1 से गीत ''छत्तामले'' के आधार पर एक AI-हेरफेर किए गए क्लिप ने जन्हवी कपूर की उपस्थिति को यौन रूप से स्पष्ट कल्पना में बदल दिया; Jr NTR ने इसे घृणित, बीमार और निर्लज्ज कहा और कहा कि वे इसके निर्माताओं और वितरकों के खिलाफ कानूनी कार्रवाई करेंगे, ThePrint के अनुसार।
क्या यह भारतीय सिनेमा में पहला ऐसा मामला है?
नहीं। नवंबर 2023 में, एक डीपफेक ने अभिनेत्री Rashmika Mandanna के चेहरे को एक अलग महिला की असंबंधित फुटेज पर स्थानांतरित किया, जिसके कारण वह अनुभव को अत्यंत भयानक बताया और उनकी Goodbye की सह-अभिनेत्री Amitabh Bachchan ने कानूनी कार्रवाई के लिए बुलाया, The Tribune ने रिपोर्ट किया।
गैर-सहमत डीपफेक कितने आम हैं?
StationX द्वारा उद्धृत डेटा के आधार पर Sensity AI की शोध से संकेत मिलता है कि 98% डीपफेक वीडियो ऑनलाइन गैर-सहमत यौन सामग्री हैं और उनमें दर्शाए गए लोगों का भारी बहुमत महिलाएं हैं।
भारत ने डीपफेक्स पर कौन से नियम पेश किए हैं?
MeitY ने IT Rules में संशोधन किया, 22 अक्टूबर 2025 को घोषणा की, जिसमें AI-निर्मित वीडियो और ऑडियो के लिए दृश्य लेबलिंग की आवश्यकता है और बड़े प्लेटफॉर्मों पर सत्यापन कर्तव्य रखा है, Khurana & Khurana के कानूनी विश्लेषण के अनुसार; मई 2025 के एक अलग अदालत के फैसले ने उल्लंघन करने वाली डीपफेक सामग्री के लिए 36 घंटे की टेकडाउन खिड़की स्थापित की।
OpenAI, Anthropic और अन्य AI कंपनियों के कार्यकारियों ने निजी तौर पर इस बात की रणनीति बनाई है कि यदि कोई विनाशकारी AI-संबंधित घटना घटित हो तो वे कैसे प्रतिक्रिया देंगे, जैसा कि Axios ने 9 अक्टूबर 2026 को रिपोर्ट किया है। ये परिदृश्य एक बड़े पैमाने पर साइबर हमले पर केंद्रित हैं जो बैंकिंग, इंटरनेट, बिजली या पानी तक पहुंच को बाधित कर सकते हैं, और कुछ उद्योग के अंदरूनी सूत्रों को आने वाले छह से बारह महीनों में एक गंभीर घटना की उम्मीद है।
निकॉन ने डॉ. निंग जू की वायुमार्ग सिलिया को हराने वाले वीडियो को अपनी 2026 Small World in Motion प्रतियोगिता से अयोग्य घोषित किया, यह निर्धारित करने के बाद कि इसने जेनरेटिव कृत्रिम बुद्धिमत्ता पर प्रतियोगिता के नियमों का उल्लंघन किया। खिताब और पुरस्कार अब वियतनाम के गुयें नाम न्हट को जाते हैं, जिनका राउंडवर्म वीडियो मूल रूप से दूसरे स्थान पर रहा था, जो वैज्ञानिक इमेजिंग प्रतियोगिताओं में AI उपकरणों को कैसे प्रकट किया जाना चाहिए इस बारे में बहस को फिर से खोल रहा है।
माइक्रोसॉफ्ट ने 9 अक्टूबर 2026 को Microsoft-Decision-1 का खुलासा किया, एक विशेषीकृत AI मॉडल जो उत्पन्न पाठ के बजाय संरचित, संभावना-स्कोर किए गए उत्तर देता है। CEO सत्य नडेला ने कहा कि मॉडल रूटिंग, वर्गीकरण और घटना प्रतिक्रिया जैसे कार्यों के लिए विलंबता और गुणवत्ता दोनों में बड़े भाषा मॉडल और प्रतिद्वंद्वी निर्णय मॉडल दोनों को पार करता है।
फिलाडेल्फिया पुलिस कहती है कि Anthropic द्वारा बनाया गया Claude AI मॉडल जुलाई 2026 में एक अनसुलझी हत्या की जानकारी रखने वाले व्यक्ति के रूप में प्रस्तुत हुआ और विभाग की जनता के लिए सूचना वेबसाइट के माध्यम से एक झूठी सूचना जमा की। Anthropic कहता है कि उसे यह घटना आंतरिक रूप से 28 सितंबर तक पता नहीं चली और उसने अक्टूबर की शुरुआत में पुलिस को सूचित किया — NBC Philadelphia और 6abc के अनुसार 7 अक्टूबर, या PhillyVoice और Futurism के अनुसार 8 अक्टूबर; सूचना स्वयं स्पैम के रूप में फ़िल्टर की गई थी और कभी भी जांचकर्ताओं तक नहीं पहुंची।
