Cara Mengenali Gambar yang Dihasilkan AI dan Deepfake: Panduan Langkah demi Langkah

Tidak ada satu tes yang sangat andal untuk membedakan foto asli dari yang dihasilkan AI. Sebaliknya, peneliti dan organisasi pemeriksa fakta merekomendasikan untuk menggabungkan beberapa pemeriksaan — inspeksi visual, metadata, data provenance dan pencarian gambar terbalik — karena setiap metode menangkap jenis pemalsuan yang berbeda dan masing-masing dapat dibodohi sendirian.

Langkah 1: Lihat gambar itu sendiri dengan cermat

Firma keamanan siber ESET merekomendasikan memulai dengan pembacaan visual gambar yang cermat. Tanda-tanda peringatan termasuk pencahayaan yang tidak wajar, tekstur kulit yang terlalu halus, tepi berkedip atau buram di sekitar subjek, mata yang tidak selaras, gigi yang terdistorsi dan pola berkedip yang tidak biasa dalam video. Untuk video dengan suara, periksa apakah audio cocok dengan gerakan mulut, karena ketidaksesuaian adalah tanda deepfake yang umum, kata ESET.

Langkah 2: Periksa metadata

ESET menyarankan untuk meninjau metadata file, termasuk tanggal pembuatan dan modifikasi, karena alat deepfake sering menghapus atau mengubah informasi ini, yang dapat menciptakan inkonsistensi yang perlu diperhatikan. Tidak adanya informasi kamera atau perangkat yang diharapkan, atau kehadiran nama perangkat lunak pengeditan AI dalam data file, dapat menjadi petunjuk, meskipun metadata juga dapat dihapus atau dipalsukan dan tidak boleh diperlakukan sebagai bukti definitif dengan sendirinya.

Langkah 3: Gunakan pencarian gambar terbalik

Menjalankan gambar melalui alat pencarian gambar terbalik seperti Google Images atau TinEye dapat mengungkapkan apakah gambar tersebut muncul di tempat lain online, dalam konteks apa, dan kapan — membantu mengkonfirmasi apakah itu foto lama yang beredar dengan klaim palsu atau benar-benar gambar baru, catatan ESET.

Langkah 4: Periksa Kredensial Konten atau watermark

Content Authenticity Initiative (CAI), kelompok di balik standar C2PA, menggambarkan Content Credentials sebagai semacam 'label nutrisi' untuk konten digital: metadata yang ditandatangani secara kriptografi yang dapat mencatat siapa yang membuat gambar, kapan, dengan alat apa, dan apakah AI terlibat. Kredensial tahan bukti — jika gambar atau data terlampir diubah setelah ditandatangani, Content Credentials akan menandai perubahan itu, menurut CAI.

Namun, CAI jelas tentang batasannya: Content Credentials tidak menyatakan bahwa konten palsu atau diubah, dan mereka bergantung pada alat pembuat yang menambahkan kredensial di tempat pertama. Gambar AI yang dibuat dengan alat yang tidak mendukung C2PA tidak akan membawa label seperti itu sama sekali.

SynthID dari Google DeepMind bekerja secara berbeda: ia menanamkan tanda air digital yang tidak terlihat langsung ke dalam piksel gambar ketika gambar dibuat dengan model Imagen Google. Google mengatakan tanda air bertahan untuk pengeditan umum seperti filter, perubahan warna, kompresi dan penyesuaian kecerahan, dan alat deteksi mengembalikan salah satu dari tiga hasil — 'terdeteksi', 'tidak terdeteksi' atau 'mungkin terdeteksi'. Tanda air SynthID hanya berfungsi pada gambar yang dihasilkan oleh model Google sendiri; tidak dapat mengidentifikasi konten yang dibuat oleh generator lain seperti Midjourney atau Stable Diffusion, menurut DeepMind.

Langkah 5: Perlakukan alat detektor otomatis dengan hati-hati

Evaluasi oleh peneliti di organisasi WITNESS, diterbitkan oleh Reuters Institute for the Study of Journalism pada April 2024, menguji pengujian yang dilakukan pada Februari 2024 pada delapan detektor deepfake yang tersedia untuk umum — Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID dan detektor gambar AI sumber terbuka. Ditemukan bahwa alat deteksi hanya sebaik data yang mereka latih: detektor yang dilatih untuk mengenali gambar yang dihasilkan AI dapat gagal pada deepfake penukaran wajah, dan alat yang dilatih terutama pada tokoh publik terkenal seperti Volodymyr Zelenskyy kesulitan dengan orang-orang yang kurang terkenal.

Evaluasi yang sama menemukan bahwa pengeditan sederhana dapat mengalahkan detektor. Pemotongan, kompresi atau penurunan resolusi gambar menyebabkan beberapa alat secara keliru mengklasifikasikan konten sintetis sebagai nyata; setelah resolusi video deepfake Obama yang terkenal dikurangi dan bagian dari klip diedit, detektor mengembalikan hasil 'No Deepfake Detected'. Tangkapan layar avatar yang dihasilkan AI juga sering kali salah diklasifikasikan sebagai buatan manusia, menurut evaluasi.

Menyatukannya

1. Periksa gambar dengan cermat untuk mencari ketidakkonsistenan pencahayaan, tekstur, mata, tangan dan latar belakang.
2. Periksa metadata yang tersedia (model kamera, tanggal, perangkat lunak) untuk anomali.
3. Jalankan pencarian gambar terbalik untuk melihat di mana dan kapan gambar pertama kali muncul.
4. Cari Content Credentials (C2PA) atau tanda air SynthID jika berlaku, memahami bahwa keduanya tidak mencakup setiap alat AI.
5. Jika menggunakan detektor otomatis, perlakukan hasilnya sebagai salah satu masukan di antara beberapa, bukan putusan akhir — peneliti WITNESS mencatat bahwa alat seperti itu bekerja paling baik bersama dengan teknik lain seperti pencarian gambar terbalik dan geolokasi, bukan sebagai solusi mandiri.
6. Periksa silang klaim yang terlampir pada gambar terhadap organisasi berita terkemuka atau situs pemeriksa fakta.

Tidak ada metode dalam daftar ini yang cukup dengan sendirinya. CAI, ESET dan evaluasi WITNESS/Reuters Institute semuanya menyatu pada kesimpulan yang sama: data provenance, tanda air dan detektor otomatis masing-masing hanya mencakup bagian dari masalah, dan menggabungkan beberapa pemeriksaan — ditambah keraguan biasa tentang dari mana gambar berasal dan siapa yang membagikannya — tetap menjadi pendekatan paling andal yang tersedia hari ini.