딥페이크 또는 AI 생성 이미지를 안정적으로 식별하려면 시각적 검사, Content Credentials 또는 SynthID와 같은 출처 도구, 역이미지 검색을 결합해야 합니다. 단일 방법으로는 모든 가짜를 감지할 수 없습니다. 탐지 연구자들은 자동화된 도구가 자르기나 압축과 같은 간단한 편집으로 속을 수 있으며, 따라서 컨텍스트 검증이 필수적으로 남아 있다고 경고합니다.
딥페이크 또는 AI 생성 이미지를 감지할 수 있는 단일 도구는 없습니다. 사이버 보안 회사 ESET과 옥스포드 대학교 저널리즘 연구소는 모두 여러 검사를 계층화할 것을 권장합니다. 시각적 검사, 출처 메타데이터, 워터마크 감지 및 출처 확인은 각 방법에 알려진 맹점이 있기 때문입니다.
단계 1: 시각적 및 음성 불일치 찾기
AI 생성 허위 정보를 찾기 위한 ESET의 가이드는 먼저 확인해야 할 구체적인 시각적 단서를 나열합니다: 부자연스러운 조명, 지나치게 부드러운 피부 텍스처, 깜박이는 가장자리, 흐린 배경. 확인할 가치가 있는 얼굴 이상에는 어긋난 눈, 비뚤어진 치아, 비정상적인 눈깜박임 패턴이 포함됩니다. 동영상의 경우 ESET에 따르면 음성과 화자의 입술 움직임 사이의 불일치는 조작의 일반적인 징후입니다.
ESET은 또한 딥페이크를 만드는 데 사용되는 도구가 파일의 생성 및 수정 날짜를 변경하거나 삭제하는 경우가 많으므로 일치하지 않는 메타데이터가 보조적인 단서가 될 수 있음을 주목합니다.
단계 2: Content Credentials(C2PA) 확인
C2PA 기술 표준을 기반으로 구축된 Content Credentials는 암호화 서명을 통해 생성 시점의 이미지에 대한 정보를 기록합니다. 콘텐츠 인증 이니셔티브(CAI)는 이 기록을 디지털 콘텐츠의 영양 정보 표시와 같다고 설명하며 제작자, 사용된 소프트웨어 또는 AI 도구, 제작자가 해당 정보를 포함한 경우 파일이 AI로 생성되었거나 편집되었는지 여부를 표시합니다.
CAI는 Content Credentials가 콘텐츠가 '실제'인지 여부를 선언하기 위한 것이 아님을 명시하고 있습니다. 이들은 출처에 관한 맥락을 제공하며 판단이 아닙니다. 이 시스템은 생성 도구가 실제로 매니페스트를 포함할 때만 작동합니다.
단계 3: SynthID와 같은 보이지 않는 워터마크 확인
Google의 SynthID는 Google의 Imagen 모델로 생성된 이미지의 픽셀에 직접 감지할 수 없는 디지털 워터마크를 포함합니다. 별도의 감지 모델이 이미지의 패턴을 스캔하고 세 가지 결과 중 하나를 보고합니다: 워터마크 감지됨(AI 생성 가능성 높음), 감지되지 않음(AI 생성 가능성 낮음), 또는 감지 가능함(이 경우 DeepMind는 결과를 신중하게 처리할 것을 권장합니다).
DeepMind는 SynthID 워터마크가 필터링, 색상 조정, 회전, JPEG 압축과 같은 일반적인 편집을 견디도록 설계되었다고 말합니다. 그러나 Imagen 또는 SynthID를 사용하는 파트너 도구에 의해 생성 시 워터마크가 지정된 이미지에만 플래그를 지정합니다. SynthID를 사용하지 않는 모델의 이미지는 AI 생성이더라도 '감지되지 않음' 결과를 반환합니다. DeepMind의 문서에 표시되어 있습니다.
단계 4: 역이미지 검색 실행
Google Lens 또는 TinEye와 같은 역이미지 검색 도구는 이미지가 이전에 다른 맥락에서 유포되었는지 여부를 드러낼 수 있습니다. 이는 로이터 통신사 저널리즘 연구소 연구원들이 주목하는 재활용되거나 재라벨링된 시각 자료를 감지하는 가장 신뢰할 수 있는 방법 중 하나입니다. 같은 이미지가 오래되고 관련 없는 기사에 첨부되어 있다면 현재 주장이 거짓이라는 강한 신호입니다. 이는 이미지 자체가 AI로 생성되었는지 여부와 무관합니다.
자동 탐지기가 속을 수 있는 이유
AI 탐지 도구에 대한 로이터 통신사 저널리즘 연구소의 검토에 따르면 간단한 편집이 이러한 도구를 정기적으로 무찌릅니다. 연구원들이 Pentagon 폭발을 보여준다고 주장하는 바이러스 이미지를 자르고 크기를 조정했을 때 탐지 소프트웨어는 수정된 버전을 진정한 것으로 분류했습니다. 해상도를 낮추고 잘 알려진 Obama 딥페이크 비디오를 자르는 것도 유사한 거짓 음성을 생성했으며, AI 생성 Biden 로보콜의 소셜 미디어 압축으로 인해 한 탐지기는 사본을 '매우 실제일 가능성이 높음'이라고 부르는 한편 원본 압축되지 않은 파일은 74% 가짜일 가능성이 있다는 점수를 받았습니다.
또한 검토에 따르면 국가 원수와 같이 잘 알려진 공인을 주로 훈련받은 탐지기는 기본 모델에 비교할 검증된 참고 데이터가 적기 때문에 온라인 신분이 적은 덜 알려진 개인에 대해 성능이 더 나빴습니다.
모든 것을 정리하기
ESET이 나열하는 부자연스러운 조명, 깜박임 패턴 또는 입술 동기화 불일치와 같은 시각적 및 음성 불일치에 대해 이미지 또는 동영상을 검사합니다.
파일이 AI 생성을 공개하는 Content Credentials(C2PA) 메타데이터를 포함하는지 확인합니다.
이미지가 Google 모델에서 나올 수 있는 경우 Google SynthID 탐지기를 사용하여 워터마크 결과를 확인합니다.
Google Lens 또는 TinEye를 사용하여 역이미지 검색을 실행하여 이미지가 다른 곳의 다른 맥락에서 나타났는지 확인합니다.
로이터 통신사 저널리즘 연구소와 ESET이 모두 권장하는 대로 단일 결과를 자체적으로 결정적인 것으로 취급하지 않고 공유하기 전에 확립된 뉴스 조직의 보도에 대해 주장을 비교합니다.
계산 탐지 도구는 다른 오픈 소스 기법과 함께 검증 프로세스의 일부로 훌륭한 출발점이 될 수 있습니다.
— 로이터 통신사 저널리즘 연구소, 옥스포드 대학교
자주 묻는 질문
단일 앱이나 웹사이트가 이미지가 딥페이크인지 확실히 알려줄 수 있나요?
아니요. ESET과 로이터 통신사 저널리즘 연구소는 모두 개별 탐지 도구가 자르기, 크기 조정, 압축과 같은 간단한 편집으로 인해 실패할 수 있으므로 어떤 도구의 결과도 최종 답변이 아닌 출발점으로 취급되어야 한다고 보고합니다.
Content Credentials와 SynthID의 차이점은 무엇인가요?
Content Credentials(C2PA)는 생성 도구가 자발적으로 첨부하는 메타데이터로 파일이 어떻게 만들어졌는지 선언합니다. SynthID는 Google의 Imagen 모델에 의해 포함된 보이지 않는 픽셀 수준 워터마크이며 별도의 탐지기로 확인됩니다. 생성 도구가 이를 지원하지 않거나 메타데이터가 제거된 경우에도 진정한 AI 생성 이미지에 둘 다 없을 수 있습니다.
딥페이크 탐지기가 실제 AI 이미지를 진정한 것으로 말하는 이유는 무엇인가요?
로이터 통신사 저널리즘 연구소는 자르기, 해상도 낮추기, 또는 소셜 미디어용 파일 재압축과 같은 편집이 기본 콘텐츠가 AI 생성되거나 조작된 경우에도 탐지기의 점수를 '진정한'으로 밀어갈 수 있음을 발견했습니다.
의심되는 딥페이크 비디오에서 먼저 확인해야 할 시각적 징후는 무엇인가요?
ESET은 조명 일관성, 피부 텍스처, 눈 정렬, 깜박임 패턴, 음성이 화자의 입술 움직임과 일치하는지 여부를 확인할 것을 권장합니다.
역이미지 검색이 AI 생성을 탐지합니까?
직접 탐지하지는 않습니다. 이미지가 이전에 온라인에서 다른 맥락에서 나타났는지 여부를 탐지하며, 로이터 통신사 저널리즘 연구소가 거짓으로 설명된 재활용된 실제 사진을 잡는 데 유용하다고 지적하는 것으로 AI 생성 탐지와 별개입니다.
AI의 "대부"로 알려진 노벨상 수상자 컴퓨터 과학자 제프리 힌튼은 인류가 빠르게 지능화되는 기계로부터 생존할 수 있는 최고의 기회는 이들이 단지 명령에 따르는 것이 아니라 정말로 사람들을 돌보도록 설계하는 것이라고 말한다. 2026년 10월 테네리페의 스타무스 축제에서 연설한 힌튼은 이러한 변화가 없으면 인류는 심각한 결과에 직면할 것이라고 경고했다.
샌프란시스코에 본사를 둔 AI 연구 기관 Flapping Airplanes는 시리즈 A 라운드에서 10억 달러를 조달하여 기업 평가를 60억 달러로 높였습니다. 이는 2026년 1월 1억 8천만 달러 시드 라운드 후 15억 달러 평가에서 약 4배 증가한 것입니다. 약 1년 전에 설립된 이 스타트업은 아직 상용 제품이 없으며, AI 모델 훈련을 막대한 데이터와 컴퓨팅 성능에 대한 의존도를 낮추는 데 집중하고 있습니다.
챗봇, 이미지 생성기, 코딩 어시스턴트와 같은 생성형 AI 도구는 모두 입력을 숫자 데이터로 변환한 다음 방대한 학습 데이터세트에서 학습한 패턴을 사용하여 단계별로 출력을 구축합니다. 텍스트 및 코드 도구는 트랜스포머 모델을 사용하여 시퀀스에서 다음 토큰을 예측하고, Imagen과 같은 이미지 도구는 무작위 패턴에서 단계적으로 노이즈를 제거하여 텍스트 프롬프트와 일치하는 그림을 생성합니다.
ChatGPT, Claude, Gemini 등 수억 명의 사용자가 매일 이용하는 AI 챗봇의 작동 원리는 일견 복잡해 보이지만 실제로는 비교적 단순합니다. 이러한 시스템은 텍스트의 다음 부분을 예측하는 신경망인 대규모 언어 모델을 기반으로 하며, 토큰화, 임베딩, 주의 메커니즘, 사전 훈련, 그리고 인간 피드백에 의한 미세 조정의 단계를 거쳐 개발됩니다.
