ویدیوهای عمیق توضیح داده شده: چگونه ویدیویی تولید شده توسط هوش مصنوعی حریم خصوصی و هویت را تهدید می‌کند

در ۳ اکتبر ۲۰۲۶، بازیگر جونیور NTR اعلام کرد که برای دریافت خسارت قانونی تلاش خواهد کرد پس از اینکه یک ویدیوی دستکاری شده توسط هوش مصنوعی بر اساس آهنگ "Chuttamalle" از فیلم تلوگویی ۲۰۲۴ Devara: Part 1، در اینترنت در حال انتشار است، طبق گزارش ThePrint. کلیپ، ظاهر بازیگر هم‌صحنه جانهوی کاپور را به صورت دیجیتالی برای ایجاد تصاویر صریح جنسی تغییر داده‌ است، طبق گزارش.

بحران ویدیوی Chuttamalle

جونیور NTR بیانیه‌ای را در X منتشر کرد و این ویدیو را تحقیرآمیز، ناپسند و بی‌شرمانه توصیف کرد، طبق ThePrint. او گفت که از افرادی که مسئول هستند، چشم‌پوشی نخواهد کرد و هر اقدام قانونی ممکن را علیه افرادی که کلیپ را ایجاد و آن را پخش می‌کنند اتخاذ خواهد کرد، و افزود که بر قوانین دولتی قوی‌تر برای سوء‌استفاده از هوش مصنوعی می‌خواهد. جانهوی کاپور به طور جداگانه از عموم مردم خواست که کلیپ را ایجاد، اشتراک یا تبلیغ نکنند و گفت که علیه متوانی‌ها اقدام قانونی انجام خواهد شد، طبق همان گزارش.

بازیگر فیجے دیوراکوندا علناً از فراخوان جونیور NTR برای قوانین قوی‌تر علیه سوء‌استفاده از هوش مصنوعی حمایت کرد، طبق AP7AM. او استدلال کرد که تولید این نوع محتوای دستکاری شده باید توسط نظام قانونی با همان جدیت اعتداء جنسی رفتار شود، و خواستار تنبیه افرادی بود که مسئول هستند تا به عنوان بازدارندگی عمل کند.

ویدیوی عمیق واقعاً چیست

ویدیوی Chuttamalle یک مورد منفرد نیست. در نوامبر ۲۰۲۳، یک کلیپ دستکاری شده صورت بازیگر راشمیکا ماندانا را بر روی بدن زنی متفاوت، کاربر رسانه‌های اجتماعی بریتانیایی-هندی زارا پاتل، ضبط شده در آسانسور، جایگزین کرد، طبق The Tribune. ماندانا در آن زمان گفت که این تجربه برای او و زنان عموماً بسیار ترسناک بود، و هشدار داد که افرادی بدون سیستم‌های حمایتی می‌توانند به ویژه آسیب‌پذیر باشند. هم‌بازیگر Goodbye او امیتاب باتچان پاسخ داد که این موضوع دلیل قوی برای اقدام قانونی است، طبق همان گزارش.

ویدیوی عمیق از مدل‌های هوش مصنوعی استفاده می‌کند که بر روی تصاویر، ویدیو یا صدای واقعی فرد تمرین یافته‌اند تا فیلم جدیدی ایجاد کنند که بنظر برسد آنها چیزی را گفته‌اند یا انجام داده‌اند که در واقع انجام نداده‌اند. همان تکنولوژی اساسی می‌تواند صوت را کپی کند، صورت را روی بدن دیگری منتقل کند، یا صحنه‌ای کاملاً مصنوعی ایجاد کند، و این دلیل است که حوادث Chuttamalle و راشمیکا ماندانا شامل انتقال چهره‌ی فرد مشهور به فیلم ضبط شده فردی دیگر بودند.

میزان گسترش این مسئله

داده‌های جمع‌آوری شده توسط شرکت تحقیقاتی DeepStrike و استناد شده توسط StationX نشان می‌دهد که حجم ویدیوهای عمیق در حال گردش در اینترنت از حدود ۵۰۰،۰۰۰ در سال ۲۰۲۳ به حدود ۸ میلیون تا سال ۲۰۲۵ افزایش یافته است. ارقام جداگانه‌ای از شرکت تأیید هویت Sensity AI، همچنین استناد شده توسط StationX، نشان می‌دهد که محتوای جنسی غیرموافقانه بخش بسیار بزرگی از ویدیوهای عمیق یافت شده در اینترنت را تشکیل می‌دهد، و اکثریت قریب به اتفاق افرادی که در آن‌ها تصویر شده‌اند زنان هستند.

قوانین جدید هند در مورد رسانه‌های ترکیبی

وزارت الکترونیک و تکنولوژی اطلاعات هند (MeitY) قواعد IT (دستورالعمل‌های واسطه و مدونه اخلاق رسانه‌های دیجیتالی) را در اعلامیه‌ای مورخ ۲۲ اکتبر ۲۰۲۵ اصلاح کرد تا صراحت‌اً آنچه را که "اطلاعات ترکیبی تولید شده" نام می‌گذارد، پوشش دهد - محتوایی که به صورت مصنوعی یا الگوریتمی ایجاد، تولید، تعدیل یا تغییر یافته و نسبتاً معتبر به نظر می‌رسد، طبق تحلیل قانونی توسط Khurana & Khurana.

• ویدیوهای عمیق بصری باید دارای برچسب دائمی روی صفحه باشند که حداقل ۱۰% از قاب را برای تمام مدت کلیپ پوشش دهند.
• ویدیوهای عمیق صوتی باید دارای افشای شنیداری در طول ۱۰% اول پخش باشند که نتوان آن را توسط پلتفرم‌ها یا کاربران حذف کرد.
• پلتفرم‌های با بیش از ۵ میلیون کاربر فعال ماهانه باید اقدامات فنی برای تأیید اینکه آیا محتوای آپلود شده ترکیبی است، به کار گیرند.
• حکمی جداگانه از دادگاه در پرونده Sadhguru، از مه ۲۰۲۵، یک پنجره ۳۶ ساعت برای پلتفرم‌ها تعیین کرد تا محتوای ویدیویی عمیق نقض حقوق را پس از اخطار حذف کنند.
• پیام‌های خصوصی و پیش‌نویس‌های منتشر نشده خارج از دامنه التزامات برچسب‌گذاری و حذف جدید هستند.

اصلاح در حد خود مسائل مانند ویدیوی Chuttamalle را حل نمی‌کند، که جونیور NTR و جانهوی کاپور گفته‌اند از طریق کانال‌های قانونی موجود به جای چارچوب برچسب‌گذاری جدید به دنبال آن خواهند بود. اما این نشان دهنده اولین مجموعه قوانینی برای هند است که به‌طور خاص برای تقلب هویت تولید شده توسط هوش مصنوعی نوشته شده است، و التزامات حذف و تأیید را مستقیماً روی پلتفرم‌های بزرگ قرار می‌دهد به جای رها کردن اجرای قانون فقط برای دعاوی قضایی فردی.