Bagaimana Algoritma Rekomendasi AI Menentukan Apa yang Anda Lihat dan Beli Online

Hampir setiap platform online besar sekarang memutuskan apa yang akan ditampilkan kepada setiap pengunjung menggunakan sistem rekomendasi yang didorong AI. Sistem ini menentukan urutan homepage Netflix, video berikutnya yang antri di YouTube, dan produk yang tercantum di bawah "pelanggan juga membeli" di Amazon. Perusahaan mendeskripsikan mekanismenya secara berbeda, tetapi pendekatan dasar mengikuti pola serupa: kumpulkan data perilaku, bandingkan dengan data dari pengguna lain, dan peringkatkan konten atau produk berdasarkan relevansi yang diprediksi.

Bagaimana sistem bekerja, menurut pernyataan platform itu sendiri

Pusat bantuan Netflix menyatakan bahwa sistem rekomendasinya mengevaluasi riwayat tontonan anggota, bagaimana mereka menilai judul lain, dan pola dari anggota lain dengan selera serupa — metode yang dikenal sebagai penyaringan kolaboratif. Sistem ini juga mempertimbangkan metadata konten seperti genre, aktor, dan tahun rilis, ditambah sinyal kontekstual termasuk waktu dalam sehari, jenis perangkat, dan bahasa pilihan. Netflix secara eksplisit menyatakan bahwa sistem tidak mempertimbangkan informasi demografis seperti usia atau jenis kelamin.

Situs resmi YouTube "Bagaimana YouTube Bekerja" dan blognya menyatakan bahwa sistem rekomendasi menggunakan lebih dari 80 miliar sinyal, termasuk riwayat tontonan, riwayat pencarian, langganan, suka, dan tanggapan terhadap survei kepuasan di mana pengguna menilai video dari satu hingga lima bintang. Hanya tanggapan empat dan lima bintang yang diperhitungkan dalam apa yang YouTube sebut "waktu tontonan bernilai." Perusahaan mengatakan rekomendasi muncul terutama di homepage dan di panel "Up Next", dan bahwa untuk topik berita dan informatif, platform bertujuan mempromosikan video dari sumber yang dianggapnya otoritatif sambil mengurangi visibilitas konten borderline, meskipun konten tersebut mungkin menghasilkan lebih banyak klik.

Teknologi rekomendasi yang didokumentasikan secara publik Amazon, Amazon Personalize, menghasilkan rekomendasi terutama dari "data interaksi item," yang berarti catatan pengguna mengklik, melihat, atau membeli item dalam katalog. Menurut dokumentasi AWS, layanan juga dapat menggabungkan atribut item atau pengguna seperti genre atau harga, dan mendukung kasus penggunaan termasuk "pelanggan yang melihat X juga melihat", peringkat pencarian yang dipersonalisasi, dan segmen pemasaran yang ditargetkan.

Mengapa ini menarik pengawasan regulasi

Di Uni Eropa, Undang-Undang Layanan Digital menerapkan kewajiban khusus pada sistem rekomendator. Pasal 27 mensyaratkan platform untuk menjelaskan, dalam bahasa biasa, parameter utama yang digunakan sistem rekomendasi mereka dan membiarkan pengguna menyesuaikan pengaturan tersebut ketika ada beberapa opsi, menurut analisis hukum dari Observatorium DSA, jaringan penelitian yang melacak implementasi undang-undang. Pasal 38 melangkah lebih jauh untuk platform terbesar, memerlukan setidaknya satu opsi rekomendator yang tidak didasarkan pada pembuatan profil. Observatorium DSA mencatat bahwa platform telah menginterpretasikan aturan pengungkapan secara tidak konsisten tanpa panduan regulasi terperinci, dan bahwa sistem yang dioptimalkan terutama untuk keterlibatan — klik, suka, berbagi, dan waktu tontonan — dapat menciptakan risiko yang melampaui gangguan konsumen sederhana.

Di Amerika Serikat, Komisi Perdagangan Federal menerbitkan laporan staf pada September 2024 setelah penyelidikan bertahun-tahun terhadap sembilan perusahaan media sosial dan streaming video. Laporan tersebut menyimpulkan bahwa perusahaan ini memasukkan informasi pribadi pengguna dan bukan pengguna ke dalam sistem otomatis, termasuk algoritma dan AI, sambil memberi orang sedikit atau tidak sama sekali kemampuan untuk menolak bagaimana data mereka digunakan. Agensi juga menemukan pengujian internal yang tidak konsisten dari sistem ini di seluruh perusahaan. Ketua FTC saat itu, Lina Khan, mengatakan bahwa praktik data yang mendasari "dapat membahayakan privasi orang, mengancam kebebasan mereka, dan membuka mereka terhadap berbagai kerugian, dari pencurian identitas hingga penguntitan." Laporan merekomendasikan agar Kongres mengesahkan undang-undang privasi yang komprehensif.

Apa yang dikatakan platform tentang data dan batasan

Pertanyaan terbuka

Platform umumnya mempresentasikan personalisasi berbasis keterlibatan sebagai kenyamanan yang membantu pengguna menemukan konten yang relevan lebih cepat. Regulator yang fokus pada laporan FTC dan DSA UE telah membingkai mekanik yang sama sebagai masalah transparansi dan tata kelola data, menunjuk ke kontrol pengguna terbatas atas bagaimana data perilaku dikumpulkan dan digunakan kembali, dan pengawasan yang tidak konsisten terhadap sistem otomatis yang terlibat. Kedua lini deskripsi bergantung pada fakta yang sama mendasari: mesin rekomendasi meperingkatkan konten dan produk menggunakan data perilaku historis yang dibandingkan di seluruh populasi pengguna besar, disempurnakan secara terus-menerus ketika interaksi baru terjadi.