深度偽造解析：人工智慧生成影片如何威脅隱私和身份

2026年10月3日，根據ThePrint的報導，演員Jr NTR表示，在基於2024年泰盧固語電影《Devara: Part 1》中的歌曲「Chuttamalle」製作的人工智慧篡改影片開始在網上流傳後，他將採取法律行動。該報導稱，該片段以數字方式改變了共演者Janhvi Kapoor的外貌，以製造性明確的圖像。

Chuttamalle影片爭議

根據ThePrint報導，Jr NTR在X上發佈聲明，將該影片描述為令人厭惡、病態和無恥的。他表示不會饒過責任人，並將對創建該片段的人和傳播該片段的人採取一切可能的法律行動，並補充說他希望政府加強對此類人工智慧濫用的監管。根據同一報導，Janhvi Kapoor分別敦促公眾不要製作、分享或推廣該片段，並表示將對相關人員採取法律行動。

根據AP7AM，演員Vijay Deverakonda公開支持Jr NTR對加強法律以打擊人工智慧濫用的呼籲。他辯稱，法律制度應該以與性侵犯相同的嚴肅性對待此類經過篡改內容的製作，他要求對責任人進行懲罰作為威懾。

深度偽造實際上是什麼

Chuttamalle影片並非孤立的案例。根據《The Tribune》報導，2023年11月，一段經過篡改的片段將演員Rashmika Mandanna的臉部交換到不同女性的身體上，即英印社交媒體用戶Zara Patel在電梯中被錄製的影片。Mandanna當時表示，這種經歷極其可怕，不僅對她而言，對所有女性都是如此，並警告沒有支持系統的人可能特別容易受害。根據同一報導，她的《Goodbye》共演者Amitabh Bachchan回應稱，這是採取法律行動的有力理由。

深度偽造使用在真實人物的圖像、影片或音頻上訓練的人工智慧模型來生成新的影片，使其看起來像他們說或做了他們沒有說或做過的事情。相同的基礎技術可以克隆聲音、將臉部交換到另一個身體上，或生成完全合成的場景，這就是為什麼Chuttamalle和Rashmika Mandanna事件都涉及將名人肖像移植到他人錄製的影片上。

問題變得有多普遍

研究公司DeepStrike編譯並由StationX引述的數據顯示，在線流傳的深度偽造數量從2023年的約50萬部增加到2025年的約800萬部。身份驗證公司Sensity AI的單獨數據也由StationX引述，表明非自願性內容佔網上發現的大多數深度偽造影片，這些影片中描繪的絕大多數人是女性。

印度關於合成媒體的新規則

根據Khurana & Khurana的法律分析，印度電子和信息技術部(MeitY)在2025年10月22日的公告中修訂了IT(中介指南和數字媒體倫理準則)規則，以明確涵蓋其所謂的「合成生成信息」——即人為或演算法創建、生成、修改或改變且看起來合理真實的內容。

• 視覺深度偽造必須在影片的整個期間內帶有永久性屏幕標籤，覆蓋至少10%的畫面。
• 音頻深度偽造必須在播放的前10%內進行可聽見的披露，不能被平台或用戶去除。
• 擁有超過500萬月活躍用戶的平台必須部署技術措施來驗證上傳的內容是否為合成內容。
• Sadhguru案件的一項單獨法院裁決(來自2025年5月)為平台設定了36小時的時間窗口，在被通知後移除侵權的深度偽造內容。
• 私人消息和未發佈的草稿超出了新標籤和下架職責的範圍。

該修訂本身不會解決像Chuttamalle影片這樣的案例，Jr NTR和Janhvi Kapoor都表示他們將通過現有法律渠道而不是新的標籤框架來追究。但它標誌著印度首次專為人工智慧生成冒充而編寫的規則集，將下架和驗證義務直接放在大型平台上，而不是單獨留給個人訴訟執行。