AI 생성 이미지 및 딥페이크 식별 방법: 단계별 가이드

실제 사진을 AI 생성 이미지와 구별하는 단일 완벽한 테스트는 없습니다. 대신 연구자 및 사실 확인 조직은 여러 확인을 겹쳐서 수행할 것을 권장합니다. 즉, 시각적 검사, 메타데이터, 출처 데이터 및 역 이미지 검색입니다. 각 방법은 다양한 종류의 가짜를 감지하고 각 방법은 혼자서 속을 수 있습니다.

1단계: 이미지 자체를 자세히 살펴보기

사이버 보안 회사 ESET는 이미지를 자세히 시각적으로 확인하는 것으로 시작할 것을 권장합니다. 경고 신호에는 부자연스러운 조명, 과도하게 매끄러운 피부 질감, 피사체 주변의 깜박임 또는 흐릿한 가장자리, 정렬되지 않은 눈, 왜곡된 치아 및 비디오의 비정상적인 깜박임 패턴이 포함됩니다. 음성이 있는 비디오의 경우 오디오가 입의 움직임과 일치하는지 확인하십시오. ESET에 따르면 불일치는 일반적인 딥페이크 특성입니다.

2단계: 메타데이터 확인

ESET는 딥페이크 도구가 이 정보를 자주 제거하거나 변경하므로 작성 및 수정 날짜를 포함한 파일의 메타데이터를 검토할 것을 조언합니다. 이는 주목할 가치가 있는 불일치를 만들 수 있습니다. 예상되는 카메라 또는 장치 정보의 부재 또는 파일 데이터에 AI 편집 소프트웨어 이름의 존재는 단서가 될 수 있지만 메타데이터도 제거되거나 위조될 수 있으므로 그 자체로 확정적인 것으로 취급되어서는 안 됩니다.

3단계: 역 이미지 검색 사용

Google Images 또는 TinEye와 같은 역 이미지 검색 도구를 통해 이미지를 실행하면 사진이 온라인의 다른 곳에 나타났는지, 어떤 맥락에서, 언제 나타났는지 알 수 있습니다. ESET은 이것이 오래된 사진이 거짓 주장과 함께 재유통되고 있는지 아니면 정말 새로운 이미지인지 확인하는 데 도움이 된다고 합니다.

4단계: Content Credentials 또는 워터마크 확인

C2PA 표준의 배후에 있는 그룹인 Content Authenticity Initiative (CAI)는 Content Credentials를 디지털 콘텐츠의 일종의 "영양 표시"로 설명합니다. 누가 이미지를 만들었는지, 언제, 어떤 도구로, AI가 관련되었는지를 기록할 수 있는 암호로 서명된 메타데이터입니다. CAI에 따르면 인증서는 변조 방지입니다. 서명 후 이미지 또는 첨부된 데이터가 변경되면 Content Credentials가 해당 변경에 플래그를 지정합니다.

그러나 CAI는 제한사항에 대해 명확합니다. Content Credentials는 콘텐츠가 가짜이거나 변경되었다고 선언하지 않으며 생성 도구가 처음부터 인증서를 추가했다는 것에 의존합니다. C2PA를 지원하지 않는 도구로 만든 AI 이미지는 그러한 라벨을 전혀 가지지 않을 것입니다.

Google DeepMind의 SynthID는 다르게 작동합니다. Google의 Imagen 모델로 만들어진 이미지를 이미지의 픽셀에 직접 보이지 않는 디지털 워터마크를 포함합니다. Google은 워터마크가 필터, 색 변경, 압축 및 밝기 조정과 같은 일반적인 편집을 견뎌낸다고 말하며, 감지 도구는 3개의 결과 중 하나를 반환합니다. "감지됨", "감지되지 않음" 또는 "아마도 감지됨". DeepMind에 따르면 SynthID의 워터마크는 Google의 자체 모델로 생산된 이미지에서만 작동합니다. Midjourney 또는 Stable Diffusion과 같은 다른 생성기로 만든 콘텐츠를 식별할 수 없습니다.

5단계: 자동 감지기 도구를 주의깊게 대하기

WITNESS 조직의 연구자들의 평가는 2024년 4월 로이터 저널리즘 연구소에서 발표했으며, 2024년 2월에 수행된 테스트를 8개의 공개 딥페이크 감지기(Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID 및 오픈소스 AI 이미지 감지기)에 대해 조사했습니다. 감지 도구는 훈련된 데이터만큼만 수행된다는 것을 발견했습니다. AI 생성 이미지를 인식하도록 훈련된 감지기는 얼굴 교환 딥페이크에서 실패할 수 있으며, Volodymyr Zelenskyy와 같은 잘 알려진 공인을 주로 대상으로 훈련된 도구는 덜 유명한 사람들과 어려움을 겪었습니다.

동일한 평가는 단순한 편집이 감지기를 무찌를 수 있음을 발견했습니다. 이미지를 자르거나, 압축하거나, 해상도를 낮추면 일부 도구가 합성 콘텐츠를 실제로 잘못 분류하게 됩니다. 잘 알려진 Obama 딥페이크 비디오의 해상도가 낮아지고 클립의 일부가 편집된 후 감지기는 "딥페이크 감지 안 됨" 결과를 반환했습니다. 평가는 AI 생성 아바타의 스크린샷도 자주 인간이 만든 것으로 잘못 분류되었다는 것을 발견했습니다.

정리하면

1. 조명, 질감, 눈, 손 및 배경의 불일치에 대해 이미지를 자세히 검사합니다.
2. 사용 가능한 메타데이터(카메라 모델, 날짜, 소프트웨어)를 이상이 없는지 확인합니다.
3. 역 이미지 검색을 실행하여 이미지가 처음 나타난 위치와 시기를 확인합니다.
4. 해당하는 경우 Content Credentials(C2PA) 또는 SynthID 워터마크를 찾습니다. 둘 다 모든 AI 도구를 다루지 않는다는 것을 이해합니다.
5. 자동 감지기를 사용하는 경우 그 결과를 최종 판정이 아닌 여러 입력 중 하나로 취급합니다. WITNESS 연구자들은 이러한 도구가 역 이미지 검색 및 지리 위치 결정과 같은 다른 기법과 함께 사용할 때 가장 잘 작동하며 독립 실행형 솔루션이 아니라는 점을 지적합니다.
6. 이미지에 첨부된 주장을 평판이 좋은 뉴스 조직 또는 사실 확인 사이트와 상호 확인합니다.

이 목록의 어떤 방법도 그 자체로 충분하지 않습니다. CAI, ESET 및 WITNESS/로이터 연구소의 평가는 모두 동일한 결론에 수렴합니다. 출처 데이터, 워터마크 및 자동 감지기는 각각 문제의 일부만을 다루며, 여러 확인을 결합하는 것(그리고 이미지가 어디서 왔는지, 누가 공유하고 있는지에 대한 일반적인 회의주의)이 오늘날 이용 가능한 가장 신뢰할 수 있는 방법으로 남아 있습니다.