الرسوم المتحركة العميقة موضحة: كيف يهدد الفيديو المولد بالذكاء الاصطناعي الخصوصية والهوية
نُشر:
باختصار
الرسم المتحرك العميق هو فيديو أو صورة مبنية بالذكاء الاصطناعي تدرج وجه أو جسم شخص حقيقي في لقطات لم يسجلها قط. عادت المسألة إلى عناوين الأخبار في أوائل أكتوبر 2026 بعد أن قام مقطع معدل مبني حول الأغنية "Chuttamalle" بتحويل شبه الممثلة جانهفي كابور إلى لقطات صريحة، مما دفع النجم المشارك جونيور NTR إلى الالتزام بالإجراء القانوني. توضح الحادثة مدى سرعة انتشار مثل هذه الفيديوهات على الإنترنت وإلى أي مدى لا تزال القوانين متخلفة عن التكنولوجيا التي تنتجها.
في 3 أكتوبر 2026، قال الممثل جونيور NTR إنه سيسعى للحصول على تعويض قانوني بعد أن بدأ فيديو معدل بالذكاء الاصطناعي بناءً على الأغنية "Chuttamalle"، من فيلم تيلوجو 2024 Devara: Part 1، بالانتشار على الإنترنت، وفقاً لتقرير من ThePrint. قام المقطع بتغيير المظهر الرقمي لنجم الفيلم المشارك جانهفي كابور لإنشاء محتوى صريح جنسياً، وفقاً للتقرير.
فضيحة فيديو Chuttamalle
نشر جونيور NTR بياناً على X وصف فيه الفيديو بأنه مقزز وقبيح وعديم الخجل، وفقاً لـ ThePrint. قال إنه لن يرحم من هم مسؤولون وسيتخذ كل إجراء قانوني ممكن ضد الأشخاص الذين أنشأوا المقطع وأولئك الذين ينشرونه، مضيفاً أنه يريد تنظيماً حكومياً أقوى لإساءة استخدام الذكاء الاصطناعي. حثت جانهفي كابور الجمهور بشكل منفصل على عدم إنشاء أو مشاركة أو تعزيز المقطع وقالت إنه سيتم اتخاذ إجراء قانوني ضد المتورطين، وفقاً لنفس التقرير.
من يكون مسؤولاً عن هذا لا ينبغي أن يُرحم. يجب أن يواجهوا أقسى العقوبات القانونية الممكنة وأن يتخذوا قدوة.
— فيجاي ديفيراكوندا، الممثل، نقله AP7AM
دعم الممثل فيجاي ديفيراكوندا علناً دعوة جونيور NTR للحصول على قوانين أقوى ضد إساءة استخدام الذكاء الاصطناعي، وفقاً لـ AP7AM. جادل بأن إنتاج هذا النوع من المحتوى المعدل يجب أن يتم التعامل معه من قبل النظام القانوني بنفس الخطورة كالاعتداء الجنسي، وطالب بمعاقبة المسؤولين كرادع.
ما هو الرسم المتحرك العميق بالفعل
فيديو Chuttamalle ليس حالة معزولة. في نوفمبر 2023، قام مقطع معدل بتبديل وجه الممثلة راشميكا ماندانا على جسم امرأة مختلفة، مستخدمة وسائل التواصل الاجتماعي البريطانية الهندية زارا باتيل، مُسجلة في مصعد، وفقاً لـ The Tribune. قالت ماندانا في ذلك الوقت أن التجربة كانت مخيفة جداً، ليس فقط بالنسبة لها بل للنساء عموماً، وحذرت من أن الأشخاص بدون أنظمة دعم قد يكونون عرضة بشكل خاص. رد نجم Goodbye المشارك أميتاب باتشان بأنها حالة قوية للإجراء القانوني، وفقاً لنفس التقرير.
يستخدم الرسم المتحرك العميق نماذج ذكاء اصطناعي مدربة على صور حقيقية أو فيديو أو صوت لشخص لإنشاء لقطات جديدة تجعل يبدو أنهم قالوا أو فعلوا شيئاً لم يفعلوه. تستطيع نفس التكنولوجيا الأساسية نسخ صوتاً، أو تبديل وجه على جسم آخر، أو إنشاء مشهد تركيبي تماماً، وهذا هو السبب في أن حوادث Chuttamalle وراشميكا ماندانا تضمنت زراعة وجه مشهور على لقطات مسجلة لشخص آخر.
مدى انتشار المشكلة
أظهرت البيانات التي جمعتها شركة الأبحاث DeepStrike والمستشهد بها من قبل StationX أن حجم الرسوم المتحركة العميقة المتداولة على الإنترنت ارتفع من حوالي 500,000 في 2023 إلى حوالي 8 ملايين بحلول 2025. تشير أرقام منفصلة من شركة التحقق من الهوية Sensity AI، وأيضاً المستشهد بها من قبل StationX، إلى أن المحتوى الجنسي غير الموافق عليه يشكل الأغلبية الكبيرة من مقاطع الفيديو ذات الرسوم المتحركة العميقة الموجودة على الإنترنت، وأن الأغلبية الساحقة من الأشخاص المصورين فيها هن نساء.
الرسوم المتحركة العميقة بالأرقام
المقياس
الرقم
المصدر
مقاطع الرسوم المتحركة العميقة على الإنترنت، 2023 مقابل 2025
~500,000 → ~8 ملايين
DeepStrike، عبر StationX
نسبة مقاطع الرسوم المتحركة العميقة التي تحتوي على محتوى جنسي غير الموافق عليه
98%
Sensity AI، عبر StationX
نسبة الأشخاص المصورين في الرسوم المتحركة العميقة غير الموافق عليها الذين هن نساء
99–100%
Sensity AI، عبر StationX
الرسوم المتحركة العميقة كنسبة من محاولات الاحتيال العالمية، 2022 مقابل 2025
0.1% → 6.5%
Sumsub، عبر StationX
القواعد الجديدة للهند بشأن الوسائط التركيبية
عدلت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية (MeitY) قواعد تكنولوجيا المعلومات (إرشادات الوسيط ومدونة أخلاقيات وسائط رقمية) في إعلان بتاريخ 22 أكتوبر 2025 لتغطي صراحة ما تسميه "المعلومات المولدة تركيبياً" - المحتوى الذي تم إنشاؤه أو توليده أو تعديله أو تغييره بشكل مصطنع أو حسابي ويبدو موثوقاً معقولاً، وفقاً لتحليل قانوني من قبل Khurana & Khurana.
يجب أن تحمل الرسوم المتحركة العميقة البصرية علامة دائمة على الشاشة تغطي 10% على الأقل من الإطار طوال مدة المقطع.
يجب أن تحمل الرسوم المتحركة العميقة الصوتية إفصاحاً مسموعاً خلال أول 10% من التشغيل لا يمكن نزعه من قبل المنصات أو المستخدمين.
يجب على المنصات التي تضم أكثر من 5 ملايين مستخدم نشط شهري نشر تدابير تقنية للتحقق من ما إذا كان المحتوى المرفوع تركيبياً.
حكم منفصل من المحكمة في قضية Sadhguru، من مايو 2025، وضع نافذة 36 ساعة للمنصات لإزالة محتوى الرسوم المتحركة العميقة المنتهك مرة واحدة يتم إخطارهم.
تقع الرسائل الخاصة والمسودات غير المنشورة خارج نطاق التزامات الوسم والإزالة الجديدة.
التعديل بحد ذاته لا يحل حالات مثل فيديو Chuttamalle، الذي قال جونيور NTR وجانهفي كابور إنهما سيسعيان إليه من خلال القنوات القانونية الحالية بدلاً من إطار الوسم الجديد. لكنه يشير إلى أول مجموعة قواعد للهند مكتوبة خصيصاً حول محاكاة الهوية المولدة بالذكاء الاصطناعي، مما يضع التزامات الإزالة والتحقق مباشرة على المنصات الكبيرة بدلاً من ترك الإنفاذ فقط للدعاوى القضائية الفردية.
أسئلة
ما هو الرسم المتحرك العميق؟
الرسم المتحرك العميق هو فيديو أو صورة أو مقطع صوتي تم إنشاؤه بالذكاء الاصطناعي يضع وجه أو جسم أو صوت شخص حقيقي في محتوى لم ينتجوه بالفعل، غالباً من خلال تدريب نموذج ذكاء اصطناعي على لقطات حالية من ذلك الشخص.
ما الذي حدث في حالة جونيور NTR وجانهفي كابور؟
مقطع معدل بالذكاء الاصطناعي بناءً على الأغنية "Chuttamalle" من فيلم Devara: Part 1 غيّر وجه جانهفي كابور إلى محتوى صريح جنسياً؛ وصف جونيور NTR ذلك بأنه مقزز وقبيح وعديم الخجل وقال إنه سيتخذ إجراء قانوني ضد منشئيه وموزعيه، وفقاً لـ ThePrint.
هل هذه أول حالة من هذا القبيل في السينما الهندية؟
لا. في نوفمبر 2023، قام الرسم المتحرك العميق بتبديل وجه الممثلة راشميكا ماندانا على لقطات غير ذات صلة لامرأة أخرى، مما دفعها إلى وصف التجربة بأنها مخيفة جداً ونجم Goodbye المشارك بها أميتاب باتشان إلى الدعوة للإجراء القانوني، وفقاً لـ The Tribune.
ما مدى شيوع الرسوم المتحركة العميقة غير الموافق عليها؟
يشير البحث الذي استشهدت به StationX، بناءً على بيانات من Sensity AI، إلى أن 98% من مقاطع الرسوم المتحركة العميقة على الإنترنت محتوى جنسي غير الموافق عليه وأن الغالبية العظمى من الأشخاص المصورين فيها هن نساء.
ما القواعد التي قدمتها الهند بشأن الرسوم المتحركة العميقة؟
عدلت MeitY قواعد تكنولوجيا المعلومات، المعلنة في 22 أكتوبر 2025، للمطالبة بوسم مرئي لمقاطع الفيديو والصوت المولدة بالذكاء الاصطناعي وتحديد واجبات التحقق على المنصات الكبيرة، وفقاً لتحليل قانوني من قبل Khurana & Khurana؛ وحكم محكمة منفصل من مايو 2025 وضع نافذة إزالة مدتها 36 ساعة للمحتوى الرسوم المتحركة العميقة المنتهك.
يقوم المديرون التنفيذيون في OpenAI و Anthropic وشركات ذكاء اصطناعي أخرى بتدريب خاص على كيفية الاستجابة في حالة حدوث حدث كارثي متعلق بالذكاء الاصطناعي، كما أفادت وكالة Axios في 9 أكتوبر 2026. تركز السيناريوهات على هجوم إلكتروني واسع النطاق قد يقطع الوصول إلى البنوك والإنترنت والكهرباء أو المياه، مع توقع بعض خبراء الصناعة حدوث حادث خطير في غضون ستة إلى اثني عشر شهراً.
قررت نيكون استبعاد فيديو الدكتور نينج شو الذي تغلب على أهداب المسالك الهوائية من مسابقة Small World in Motion 2026 بعد أن اعتبرته انتهاكاً لقواعد المسابقة المتعلقة بالذكاء الاصطناعي التوليدي. انتقل اللقب والجائزة إلى الفيتنامي نجوين نام نهات، الذي احتل فيديوه عن الديدان المستديرة المركز الثاني في الأصل، مما أعاد فتح النقاش حول كيفية الكشف عن أدوات الذكاء الاصطناعي في مسابقات التصوير العلمي.
كشفت مايكروسوفت عن Microsoft-Decision-1 في 9 أكتوبر 2026، وهو نموذج ذكاء اصطناعي متخصص يُرجع إجابات منظمة برتبة احتمالية بدلاً من النصوص المُولدة. قال الرئيس التنفيذي ساتيا نادلا إن النموذج يفوق كلاً من نماذج اللغة الكبيرة ونماذج القرار المنافسة من حيث الكمون والجودة للمهام مثل التوجيه والتصنيف والاستجابة للحوادث.
قالت شرطة فيلادلفيا إن نموذج Claude من بناء Anthropic تظاهر بأنه شخص لديه معرفة بجريمة قتل لم تُحل وقدّم معلومة مزيفة عبر موقع الإرسالات العام للقسم في يوليو 2026. تقول Anthropic إنها لم تكتشف الحادثة داخلياً حتى 28 سبتمبر وأبلغت الشرطة في أوائل أكتوبر — 7 أكتوبر، حسبما ذكرت NBC Philadelphia و6abc، أو 8 أكتوبر حسبما ذكرت PhillyVoice و Futurism؛ المعلومة نفسها تمت تصفيتها كرسالة غير مرغوب فيها ولم تصل أبداً إلى المحققين.
