Yapay Zeka ile Üretilmiş Görseller ve Deepfake'ler Nasıl Anlaşılır: Adım Adım Kılavuz

Gerçek bir fotoğrafı yapay zeka ile üretilmiş bir görselden ayırmak için tek ve kusursuz bir test yoktur. Bunun yerine araştırmacılar ve doğrulama (fact-checking) kuruluşları birden fazla kontrolü üst üste uygulamayı öneriyor — görsel inceleme, meta veri, köken verisi ve ters görsel arama — çünkü her yöntem farklı türde sahteleri yakalar ve her biri tek başına atlatılabilir.

Adım 1: Görselin kendisine yakından bakın

Siber güvenlik şirketi ESET, görselin yakından görsel olarak okunmasıyla başlamayı öneriyor. Uyarı işaretleri arasında doğal olmayan aydınlatma, aşırı pürüzsüz cilt dokuları, bir öznenin kenarlarında titreme veya bulanıklık, hizasız gözler, bozuk dişler ve videoda alışılmadık göz kırpma örüntüleri bulunuyor. Sesli videolarda, sesin dudak hareketleriyle uyuşup uyuşmadığını kontrol edin; çünkü ESET'e göre bu uyumsuzluklar yaygın bir deepfake işaretidir.

Adım 2: Meta verileri kontrol edin

ESET, oluşturulma ve değiştirilme tarihleri dahil olmak üzere bir dosyanın meta verilerinin incelenmesini öneriyor; çünkü deepfake araçları bu bilgiyi sıklıkla siler veya değiştirir, bu da dikkat çekici tutarsızlıklar yaratabilir. Beklenen kamera veya cihaz bilgisinin bulunmaması veya dosya verisinde yapay zeka düzenleme yazılımı adlarının görünmesi bir ipucu olabilir; ancak meta veriler de silinebileceği veya sahte oluşturulabileceği için tek başına kesin kanıt sayılmamalıdır.

Adım 3: Ters görsel arama kullanın

ESET'e göre görseli Google Images veya TinEye gibi bir ters görsel arama aracından geçirmek, fotoğrafın çevrimiçi başka bir yerde daha önce ortaya çıkıp çıkmadığını, hangi bağlamda ve ne zaman yayınlandığını ortaya çıkarabilir — bu da görselin yanlış bir iddiayla yeniden dolaşıma giren eski bir fotoğraf mı yoksa gerçekten yeni bir görsel mi olduğunu doğrulamaya yardımcı olur.

Adım 4: İçerik Kimlik Bilgileri veya filigranları kontrol edin

C2PA standardının arkasındaki grup olan Content Authenticity Initiative (CAI), İçerik Kimlik Bilgilerini (Content Credentials) dijital içerik için bir tür "besin etiketi"ne benzetiyor: bir görseli kimin, ne zaman, hangi araçlarla oluşturduğunu ve yapay zekanın dahil olup olmadığını kaydedebilen kriptografik olarak imzalanmış meta veriler. CAI'ye göre bu kimlik bilgileri değişikliğe karşı iz bırakır — görsel veya ekli verisi imzalandıktan sonra değiştirilirse, İçerik Kimlik Bilgileri bu değişikliği işaretler.

Ancak CAI bu yöntemin sınırları konusunda açık: İçerik Kimlik Bilgileri bir içeriğin sahte veya değiştirilmiş olduğunu beyan etmez ve öncelikle içeriği oluşturan aracın bu kimlik bilgilerini eklemiş olmasına bağlıdır. C2PA'yı desteklemeyen bir araçla yapılan bir yapay zeka görseli hiçbir etiket taşımayacaktır.

Google DeepMind'ın SynthID'si farklı çalışır: görsel, Google'ın Imagen modeliyle oluşturulduğunda, görünmez bir dijital filigranı doğrudan görselin piksellerine gömer. Google, bu filigranın filtreler, renk değişiklikleri, sıkıştırma ve parlaklık ayarlamaları gibi yaygın düzenlemelere dayandığını söylüyor ve bir tespit aracı üç sonuçtan birini verir — "tespit edildi," "tespit edilmedi" veya "muhtemelen tespit edildi." DeepMind'a göre SynthID'nin filigranı yalnızca Google'ın kendi modelleriyle üretilen görsellerde çalışır; Midjourney veya Stable Diffusion gibi diğer üreticilerin oluşturduğu içerikleri tanımlayamaz.

Adım 5: Otomatik tespit araçlarına temkinli yaklaşın

Reuters Gazetecilik Araştırmaları Enstitüsü (Reuters Institute for the Study of Journalism) tarafından Nisan 2024'te yayımlanan ve WITNESS kuruluşu araştırmacıları tarafından yapılan bir değerlendirme, Şubat 2024'te kamuya açık sekiz deepfake tespit aracı üzerinde yapılan testleri inceledi — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID ve açık kaynaklı bir yapay zeka görsel tespit aracı. Değerlendirme, tespit araçlarının yalnızca eğitildikleri veriler kadar iyi performans gösterdiğini buldu: yapay zeka ile üretilmiş görselleri tanımak için eğitilmiş bir tespit aracı, yüz değiştirme (face-swap) deepfake'lerinde başarısız olabiliyor ve ağırlıklı olarak Volodimir Zelenski gibi tanınmış kamuoyu figürleri üzerinde eğitilmiş araçlar, daha az tanınmış kişilerde zorlanıyor.

Aynı değerlendirme, basit düzenlemelerin tespit araçlarını yanıltabildiğini buldu. Bir görseli kırpmak, sıkıştırmak veya çözünürlüğünü düşürmek, bazı araçların sentetik içeriği gerçek olarak sınıflandırmasına neden oldu; tanınmış bir Obama deepfake videosunun çözünürlüğü düşürülüp klibin bir bölümü çıkarıldıktan sonra, bir tespit aracı "Deepfake Tespit Edilmedi" sonucu verdi. Değerlendirme, yapay zeka ile üretilmiş avatarların ekran görüntülerinin de sıklıkla insan yapımı olarak yanlış sınıflandırıldığını buldu.

Hepsini bir araya getirmek

1. Görseli aydınlatma, doku, göz, el ve arka plan tutarsızlıkları açısından yakından inceleyin.
2. Mevcut meta verileri (kamera modeli, tarihler, yazılım) anomalilere karşı kontrol edin.
3. Görselin nerede ve ne zaman ilk ortaya çıktığını görmek için ters görsel arama yapın.
4. Uygulanabildiği durumlarda İçerik Kimlik Bilgilerini (C2PA) veya SynthID filigranını arayın; ancak hiçbirinin her yapay zeka aracını kapsamadığını bilin.
5. Otomatik bir tespit aracı kullanıyorsanız, sonucunu kesin bir karar olarak değil, birden fazla girdiden biri olarak değerlendirin — WITNESS araştırmacıları bu araçların tek başına bir çözüm olarak değil, ters görsel arama ve coğrafi konumlandırma gibi diğer tekniklerle birlikte en iyi şekilde çalıştığını belirtiyor.
6. Görsele eklenen iddiayı güvenilir haber kuruluşları veya doğrulama siteleriyle çaprazlama kontrol edin.

Bu listedeki hiçbir yöntem tek başına yeterli değildir. CAI, ESET ve WITNESS/Reuters Institute değerlendirmesi aynı sonuca ulaşıyor: köken verileri, filigranlar ve otomatik tespit araçlarının her biri sorunun yalnızca bir kısmını kapsıyor ve birkaç kontrolü birleştirmek — bir görselin nereden geldiğine ve kimin paylaştığına dair sıradan şüphecilikle birlikte — bugün mevcut en güvenilir yaklaşım olarak kalıyor.