Cara Mengenali Deepfake dan Gambar yang Dihasilkan AI: Panduan Langkah demi Langkah

Tidak ada alat tunggal yang menangkap setiap deepfake atau gambar yang dihasilkan AI. Perusahaan keamanan siber ESET dan Reuters Institute for the Study of Journalism di University of Oxford keduanya merekomendasikan penggabungan beberapa pemeriksaan — inspeksi visual, metadata provenance, deteksi watermark dan verifikasi sumber — karena setiap metode memiliki kelemahan yang diketahui.

Langkah 1: Cari inkonsistensi visual dan audio

Panduan ESET untuk mengenali misinformasi yang dihasilkan AI mencantumkan petunjuk visual konkret untuk diperiksa terlebih dahulu: pencahayaan yang tidak alami, tekstur kulit yang terlalu halus, tepi yang berkedip dan latar belakang yang buram. Anomali wajah yang patut diperhatikan termasuk mata yang tidak selaras, gigi yang terdistorsi dan pola berkedip yang tidak biasa. Untuk video, ketidaksesuaian antara audio dan gerakan bibir pembicara adalah tanda manipulasi yang umum, menurut ESET.

ESET juga mencatat bahwa alat yang digunakan untuk membuat deepfake sering mengubah atau menghapus tanggal pembuatan dan modifikasi file, jadi metadata yang tidak konsisten dapat menjadi petunjuk sekunder.

Langkah 2: Periksa Content Credentials (C2PA)

Content Credentials, yang dibangun berdasarkan standar teknis C2PA, mencatat informasi tentang gambar pada saat pembuatannya dengan menandatanganinya secara kriptografis, menurut Content Authenticity Initiative (CAI). CAI menggambarkan catatan ini sebagai semacam label nutrisi untuk konten digital, menunjukkan pembuat, perangkat lunak atau alat AI yang digunakan, dan apakah file dibuat atau diedit dengan AI, ketika informasi tersebut disertakan oleh pembuat.

CAI jelas bahwa Content Credentials bukan dimaksudkan untuk menyatakan apakah konten "nyata": mereka memberikan konteks tentang asal, bukan putusan. Sistem juga hanya berfungsi jika alat pembuatan benar-benar menyematkan manifes.

Langkah 3: Periksa watermark yang tidak terlihat, seperti SynthID

SynthID Google menyematkan watermark digital yang tidak terlihat langsung ke dalam piksel gambar yang dihasilkan oleh model Imagen-nya, menurut Google DeepMind. Model deteksi terpisah memindai gambar untuk pola itu dan melaporkan salah satu dari tiga hasil: watermark terdeteksi (kemungkinan besar dihasilkan AI), tidak terdeteksi (tidak mungkin dihasilkan AI), atau kemungkinan terdeteksi, dalam hal mana DeepMind merekomendasikan memperlakukan hasil dengan hati-hati.

DeepMind mengatakan watermark SynthID dirancang untuk bertahan dari pengeditan umum seperti penyaringan, penyesuaian warna, rotasi dan kompresi JPEG. Namun, ini hanya menandai gambar yang diberi watermark pada saat pembuatan oleh Imagen atau alat mitra yang menggunakan SynthID — gambar dari model yang tidak menggunakan SynthID akan mengembalikan hasil "tidak terdeteksi" bahkan jika dihasilkan AI, dokumen DeepMind menunjukkan.

Langkah 4: Jalankan pencarian gambar terbalik

Alat pencarian gambar terbalik seperti Google Lens atau TinEye dapat mengungkapkan apakah gambar beredar sebelumnya dalam konteks yang berbeda, yang merupakan salah satu cara paling andal untuk menangkap visual yang didaur ulang atau dilabel ulang, menurut peneliti di Reuters Institute. Jika gambar yang sama muncul terlampir pada cerita lama yang tidak terkait, itu adalah sinyal kuat bahwa klaim saat ini tentangnya palsu, terlepas dari apakah gambar itu sendiri dihasilkan AI.

Mengapa detektor otomatis masih dapat ditipu

Tinjauan Reuters Institute terhadap alat deteksi AI menemukan bahwa pengeditan sederhana secara rutin mengalahkan mereka. Ketika peneliti memotong dan menskalakan gambar viral yang diduga menunjukkan ledakan Pentagon, perangkat lunak deteksi mengklasifikasikan versi yang diubah sebagai asli. Menurunkan resolusi dan memangkas video deepfake Obama yang terkenal menghasilkan negatif palsu yang serupa, dan kompresi media sosial dari robocall Biden yang dihasilkan AI menyebabkan satu detektor menyebut salinan "sangat mungkin nyata," sementara file asli yang tidak dimampatkan menilai 74% kemungkinan palsu.

Tinjauan juga menemukan bahwa detektor yang dilatih terutama pada tokoh publik terkenal, seperti kepala negara, berkinerja lebih buruk pada individu yang kurang dikenal dengan kehadiran online minimal, karena model dasar memiliki lebih sedikit data referensi terverifikasi untuk dibandingkan.

Menyatukannya

1. Periksa gambar atau video untuk inkonsistensi visual dan audio yang ESET cantumkan, seperti pencahayaan yang tidak alami, pola berkedip atau ketidakcocokan sinkronisasi bibir.
2. Periksa apakah file membawa metadata Content Credentials (C2PA) yang mengungkapkan generasi AI.
3. Jika gambar mungkin berasal dari model Google, periksa dengan detektor SynthID Google untuk hasil watermark.
4. Jalankan pencarian gambar terbalik dengan Google Lens atau TinEye untuk melihat apakah gambar telah muncul di tempat lain dalam konteks yang berbeda.
5. Perlakukan hasil tunggal apa pun sebagai tidak meyakinkan dengan sendirinya, dan bandingkan klaim melawan cakupan dari organisasi berita yang mapan sebelum membagikannya, seperti yang disarankan oleh Reuters Institute dan ESET.