NIVΞCTOR
HaberDestek

Sayaç henüz başlamadı

Yapay zekâ · Rehber

Deepfake'ler ve Yapay Zeka Tarafından Üretilmiş Görseller Nasıl Tespit Edilir: Adım Adım Kılavuz

Yayın:

Kısaca

Bir deepfake'i veya yapay zeka tarafından üretilmiş bir görseli güvenilir şekilde tespit etmek, görsel kontrolleri, Content Credentials veya SynthID gibi köken (provenance) araçlarını ve ters görsel aramayı birleştirmeyi gerektirir — hiçbir yöntem tek başına her sahteyi yakalayamaz. Tespit araştırmacıları, otomatik araçların kırpma veya sıkıştırma gibi basit düzenlemelerle kandırılabileceği konusunda uyarıyor, bu nedenle bağlam doğrulaması vazgeçilmez kalıyor.

Bu sürüm, özgün metnin (English) makine çevirisidir. Özgün metni oku

Her deepfake'i veya yapay zeka tarafından üretilmiş görseli yakalayan tek bir araç yoktur. Siber güvenlik şirketi ESET ile Oxford Üniversitesi'ndeki Reuters Gazetecilik Araştırmaları Enstitüsü, her yöntemin bilinen kör noktaları olduğu için birkaç kontrolü üst üste uygulamayı öneriyor — görsel inceleme, köken meta verisi, filigran tespiti ve kaynak doğrulaması.

Adım 1: Görsel ve ses tutarsızlıklarını arayın

ESET'in yapay zeka tarafından üretilmiş yanlış bilgiyi tespit etme kılavuzu, önce kontrol edilmesi gereken somut görsel ipuçlarını sıralıyor: doğal olmayan aydınlatma, aşırı pürüzsüz cilt dokuları, titreyen kenarlar ve bulanık arka planlar. Kontrol edilmeye değer yüz anomalileri arasında hizasız gözler, bozuk dişler ve alışılmadık göz kırpma örüntüleri bulunuyor. ESET'e göre video için, ses ile konuşmacının dudak hareketleri arasındaki uyumsuzluk yaygın bir manipülasyon işareti.

ESET ayrıca, deepfake oluşturmak için kullanılan araçların bir dosyanın oluşturulma ve değiştirilme tarihlerini sıklıkla değiştirdiğini veya sildiğini belirtiyor; bu nedenle tutarsız meta veriler ikincil bir ipucu olabilir.

Adım 2: Content Credentials'ı (C2PA) kontrol edin

Content Authenticity Initiative'e (CAI) göre, C2PA teknik standardı üzerine inşa edilen Content Credentials, bir görsel oluşturulduğu anda onu şifreli olarak imzalayarak hakkındaki bilgileri kaydediyor. CAI bu kaydı dijital içerik için bir tür besin değeri etiketi olarak tanımlıyor; oluşturucu, kullanılan yazılım veya yapay zeka aracını ve dosyanın yapay zeka ile üretilip üretilmediğini veya düzenlenip düzenlenmediğini gösteriyor — tabii bu bilgi oluşturucu tarafından eklenmişse.

CAI, Content Credentials'ın içeriğin "gerçek" olup olmadığını beyan etmeyi amaçlamadığını açıkça belirtiyor: bunlar bir hüküm değil, köken hakkında bağlam sağlıyor. Sistem ayrıca yalnızca oluşturma aracının gerçekten bir manifesto gömmesi halinde işe yarıyor.

Adım 3: SynthID gibi görünmez bir filigranı kontrol edin

Google DeepMind'a göre, Google'ın SynthID'si, Imagen modeli tarafından üretilen görsellerin piksellerine fark edilmez bir dijital filigran doğrudan gömüyor. Ayrı bir tespit modeli bir görseli bu desen için tarıyor ve üç sonuçtan birini bildiriyor: filigran tespit edildi (yapay zeka ile üretilmiş olması muhtemel), tespit edilmedi (yapay zeka ile üretilmiş olması muhtemel değil) veya olası tespit, bu durumda DeepMind sonucun dikkatle ele alınmasını öneriyor.

DeepMind, SynthID filigranının filtreleme, renk ayarı, döndürme ve JPEG sıkıştırma gibi yaygın düzenlemelere dayanıklı olacak şekilde tasarlandığını belirtiyor. Ancak bu sistem yalnızca Imagen veya SynthID kullanan ortak araçlar tarafından oluşturma anında filigranlanmış görselleri işaretliyor — DeepMind'ın belgelerinin gösterdiği üzere, SynthID kullanmayan bir modelden gelen görsel, yapay zeka ile üretilmiş olsa bile "tespit edilmedi" sonucu verecektir.

Adım 4: Ters görsel arama yapın

Reuters Enstitüsü'ndeki araştırmacılara göre, Google Lens veya TinEye gibi ters görsel arama araçları, bir görselin daha önce farklı bir bağlamda dolaşıp dolaşmadığını ortaya çıkarabilir; bu, yeniden kullanılan veya yanlış etiketlenmiş görselleri yakalamanın en güvenilir yollarından biridir. Aynı görsel daha eski, ilgisiz bir habere iliştirilmiş olarak görünüyorsa, bu, görselin kendisinin yapay zeka ile üretilmiş olup olmamasından bağımsız olarak, onun hakkındaki mevcut iddianın yanlış olduğuna dair güçlü bir işarettir.

Otomatik tespit araçları neden hâlâ kandırılabiliyor

Reuters Enstitüsü'nün yapay zeka tespit araçlarına ilişkin incelemesi, basit düzenlemelerin bu araçları rutin olarak yenilgiye uğrattığını buldu. Araştırmacılar, Pentagon'da bir patlamayı gösterdiği iddia edilen viral bir görseli kırpıp ölçeklendirdiklerinde, tespit yazılımı değiştirilmiş hali gerçek olarak sınıflandırdı. Çözünürlüğü düşürmek ve iyi bilinen bir Obama deepfake videosunu kırpmak benzer yanlış negatif sonuçlar üretti; ve yapay zeka ile üretilmiş bir Biden robocall'unun sosyal medya sıkıştırması, bir tespit aracının bir kopyayı "gerçek olma ihtimali çok yüksek" olarak değerlendirmesine neden olurken, sıkıştırılmamış orijinal dosya %74 oranında sahte olma olasılığı aldı.

İnceleme ayrıca, bir devlet başkanı gibi çok tanınan kamusal figürler üzerinde ağırlıklı olarak eğitilmiş tespit araçlarının, çevrimiçi varlığı az olan daha az tanınan kişilerde daha kötü performans gösterdiğini buldu; çünkü bu modellerin karşılaştırabileceği doğrulanmış referans verisi daha azdı.

Hepsini bir araya getirmek

  1. Görseli veya videoyu, ESET'in sıraladığı doğal olmayan aydınlatma, göz kırpma örüntüleri veya dudak senkronizasyonu uyumsuzlukları gibi görsel ve ses tutarsızlıkları açısından inceleyin.
  2. Dosyanın yapay zeka ile üretildiğini açıklayan Content Credentials (C2PA) meta verisi taşıyıp taşımadığını kontrol edin.
  3. Görsel bir Google modelinden gelmiş olabilirse, filigran sonucu için Google'ın SynthID tespit aracıyla kontrol edin.
  4. Görselin başka bir bağlamda başka bir yerde görünüp görünmediğini görmek için Google Lens veya TinEye ile ters görsel arama yapın.
  5. Reuters Enstitüsü ve ESET'in her ikisinin de önerdiği gibi, tek başına herhangi bir sonucu kesin kabul etmeyin ve paylaşmadan önce iddiayı köklü haber kuruluşlarının haberleriyle karşılaştırın.

Hesaplamalı tespit araçları, diğer açık kaynak teknikleriyle birlikte bir doğrulama sürecinin parçası olarak iyi bir başlangıç noktası olabilir.

— Reuters Gazetecilik Araştırmaları Enstitüsü, Oxford Üniversitesi

Sorular

Tek bir uygulama veya web sitesi, bir görselin deepfake olup olmadığını güvenilir şekilde söyleyebilir mi?
Hayır. ESET ve Reuters Enstitüsü, bireysel tespit araçlarının kırpma, boyutlandırma veya sıkıştırma gibi basit düzenlemelerle yenilgiye uğratılabileceğini bildiriyor; bu nedenle tek bir araçtan gelen sonuçlar nihai bir cevap değil, bir başlangıç noktası olarak değerlendirilmeli.
Content Credentials ile SynthID arasındaki fark nedir?
Content Credentials (C2PA), bir oluşturma aracının bir dosyanın nasıl yapıldığını beyan ederek gönüllü olarak eklediği meta verilerdir; SynthID ise Google'ın Imagen modeli tarafından gömülen ve ayrı bir tespit aracıyla kontrol edilen görünmez, piksel düzeyinde bir filigrandır. Oluşturma aracı bunları desteklemiyorsa veya meta veriler kaldırılmışsa, her ikisi de gerçekten yapay zeka ile üretilmiş görsellerde bile bulunmayabilir.
Deepfake tespit araçları bazen gerçek bir yapay zeka görselinin özgün olduğunu neden söyler?
Reuters Enstitüsü, kırpma, çözünürlüğü düşürme veya bir dosyayı sosyal medya için yeniden sıkıştırma gibi düzenlemelerin, içerik yapay zeka ile üretilmiş veya değiştirilmiş olsa bile bir tespit aracının skorunu "özgün" yönüne itebileceğini buldu.
Şüpheli bir deepfake videosunda önce hangi görsel işaretlere bakmalıyım?
ESET, aydınlatma tutarlılığını, cilt dokusunu, göz hizasını, göz kırpma örüntülerini ve sesin konuşmacının dudak hareketleriyle eşleşip eşleşmediğini kontrol etmeyi öneriyor.
Ters görsel arama yapay zeka üretimini tespit eder mi?
Doğrudan değil — bir görselin daha önce farklı bir bağlamda çevrimiçi olarak görünüp görünmediğini tespit eder. Reuters Enstitüsü bunun, yapay zeka üretimini tespit etmekten ayrı olarak, yeniden kullanılan gerçek fotoğrafların yanlış şekilde tanımlanmasını yakalamak için kullanışlı olduğunu belirtiyor.

Kaynaklar

  1. ESET — How to detect deepfakes: A practical guide to spotting AI-generated misinformation
  2. Content Authenticity Initiative — How it works (Content Credentials)
  3. Reuters Institute, University of Oxford — Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail
  4. Google DeepMind — Identifying AI-generated images with SynthID

Bu yazı yapay zekâ ile hazırlandı ve yayından önce otomatik kaynak denetiminden geçti. Bir hata görürseniz düzeltme isteyin. Düzeltme ya da cevap iste · Nasıl hazırlıyoruz

İlgili yazılar