딥페이크 설명: AI 생성 비디오가 프라이버시와 아이덴티티를 어떻게 위협하는가

2026년 10월 3일, 배우 Jr NTR은 ThePrint의 보도에 따르면 2024년 텔루구어 영화 "Devara: Part 1"의 노래 "Chuttamalle"를 기반으로 한 AI 조작 비디오가 온라인에서 유포되기 시작한 후 법적 조치를 추구하겠다고 말했습니다. 클립은 공동 출연 배우 Janhvi Kapoor의 모습을 디지털로 변경하여 성적으로 명시적인 이미지를 만들었다고 보도는 말합니다.

Chuttamalle 비디오 논쟁

Jr NTR은 X에 성명을 게시하여 비디오를 혐오스럽고, 병적이며, 부끄러운 것이라고 묘사했으며, ThePrint가 보도했습니다. 그는 책임 있는 사람들을 용서하지 않겠으며 클립을 만든 사람들과 이를 퍼뜨리는 사람들에 대해 가능한 모든 법적 조치를 취할 것이라고 말했으며, AI 오용에 대한 더 강력한 정부 규제를 원한다고 덧붙였습니다. Janhvi Kapoor는 별도로 대중에게 클립을 만들지, 공유하지, 홍보하지 말 것을 촉구했으며 관련된 사람들에 대해 법적 조치가 취해질 것이라고 말했습니다(같은 보도에 따름).

배우 Vijay Deverakonda는 공개적으로 Jr NTR의 AI 오용에 대한 더 강력한 법률 촉구를 지지했으며 AP7AM에 따르면. 그는 이러한 종류의 조작된 콘텐츠를 제작하는 것이 법적 시스템에 의해 성적 폭행과 동일한 심각성으로 취급되어야 한다고 주장했으며, 책임 있는 사람들을 억제 수단으로서 벌할 것을 촉구했습니다.

딥페이크의 실제 모습

Chuttamalle 비디오는 고립된 사례가 아닙니다. 2023년 11월, 조작된 클립은 배우 Rashmika Mandanna의 얼굴을 엘리베이터에서 촬영된 다른 여성의 신체로 교환했습니다. 그 여성은 영국-인도 소셜 미디어 사용자 Zara Patel입니다(The Tribune에 따름). Mandanna는 그 당시 이 경험이 자신뿐 아니라 일반적으로 여성에게도 극도로 무섭다고 말했으며, 지원 시스템이 없는 사람들이 특히 취약할 수 있다고 경고했습니다. 그녀의 "Goodbye" 공동 출연자 Amitabh Bachchan은 이것이 법적 조치를 위한 강력한 사례라고 응답했습니다(같은 보도에 따름).

딥페이크는 사람의 실제 이미지, 비디오 또는 오디오로 훈련된 AI 모델을 사용하여 그들이 실제로 말하거나 하지 않은 것처럼 보이는 새로운 영상을 생성합니다. 같은 기반 기술은 음성을 복제하고, 얼굴을 다른 신체로 교환하거나, 완전히 합성된 장면을 생성할 수 있습니다. 이것이 Chuttamalle과 Rashmika Mandanna 사건 모두 유명 인사의 외모를 다른 사람의 녹화된 영상에 이식하는 것을 포함하는 이유입니다.

문제가 얼마나 광범위해졌는지

조사 회사 DeepStrike에 의해 편집되고 StationX에서 인용된 데이터에 따르면, 온라인에서 유포되는 딥페이크의 양이 2023년 약 500,000개에서 2025년까지 약 800만 개로 증가했습니다. 신원 확인 회사 Sensity AI의 별도 수치(StationX에서도 인용)는 비동의 성적 콘텐츠가 온라인에서 발견된 딥페이크 비디오의 대다수를 구성하며, 그들에게 묘사된 압도적 다수의 사람들이 여성임을 나타냅니다.

인도의 합성 미디어에 관한 새로운 규칙

인도의 전자정보기술부(MeitY)는 2025년 10월 22일 발표된 IT(중개자 지침 및 디지털 미디어 윤리 강령) 규칙을 수정하여 "합성적으로 생성된 정보"라고 부르는 것을 명확히 포함했습니다 — 인공적으로 또는 알고리즘 방식으로 생성, 생성, 수정 또는 변경되고 합리적으로 진정성 있어 보이는 콘텐츠(Khurana & Khurana의 법적 분석에 따름).

• 시각적 딥페이크는 클립의 전체 기간 동안 프레임의 최소 10%를 차지하는 영구적인 화면 레이블을 표시해야 합니다.
• 오디오 딥페이크는 재생의 처음 10% 동안 플랫폼이나 사용자가 제거할 수 없는 청각 공시를 표시해야 합니다.
• 월간 활성 사용자가 500만 명 이상인 플랫폼은 업로드된 콘텐츠가 합성인지 확인하기 위한 기술적 조치를 배포해야 합니다.
• 2025년 5월 Sadhguru 사건의 별도 법원 판결은 통지 후 플랫폼이 위반하는 딥페이크 콘텐츠를 제거하기 위한 36시간 기간을 설정했습니다.
• 개인 메시지 및 게시되지 않은 초안은 새로운 레이블링 및 삭제 의무의 범위 밖입니다.

수정안은 Jr NTR과 Janhvi Kapoor가 새로운 레이블링 프레임워크가 아닌 기존 법적 채널을 통해 추구한다고 말하는 Chuttamalle 비디오와 같은 사건을 자체적으로 해결하지는 못합니다. 그러나 이는 AI 생성 사칭에 대해 특별히 작성된 인도의 첫 번째 규칙 세트를 표시합니다. 개별 소송에만 집행을 남기는 대신 대규모 플랫폼에 직접 삭제 및 확인 의무를 배치합니다.