Yapay Zekâ Öneri Algoritmaları Çevrimiçi Olarak Ne Gördüğünüze ve Satın Aldığınıza Nasıl Karar Veriyor

Neredeyse tüm büyük çevrimiçi platformlar artık her ziyaretçiye ne göstereceğine yapay zekâ destekli bir öneri sistemiyle karar veriyor. Bu sistemler, bir Netflix ana sayfasının sıralamasını, YouTube'da sırada bekleyen bir sonraki videoyu ve Amazon'da "müşteriler bunu da satın aldı" bölümünde listelenen ürünleri belirliyor. Şirketler bu mekanizmaları farklı şekillerde tanımlıyor olsa da, temel yaklaşım benzer bir kalıbı izliyor: davranışsal veri toplamak, bunu diğer kullanıcıların verileriyle karşılaştırmak ve içerikleri veya ürünleri tahmini önem derecesine göre sıralamak.

Sistemler platformların kendi ifadesine göre nasıl çalışıyor

Netflix'in yardım merkezi, öneri sisteminin bir üyenin izleme geçmişini, diğer yapımları nasıl puanladığını ve benzer zevklere sahip diğer üyelerden gelen kalıpları değerlendirdiğini belirtiyor; bu yöntem işbirlikçi filtreleme (collaborative filtering) olarak biliniyor. Sistem ayrıca tür, oyuncular ve çıkış yılı gibi içerik meta verilerini, buna ek olarak günün saati, cihaz türü ve tercih edilen dil gibi bağlamsal sinyalleri de hesaba katıyor. Netflix, sistemin yaş veya cinsiyet gibi demografik bilgileri hesaba katmadığını açıkça belirtiyor.

YouTube'un resmi "YouTube Nasıl Çalışır" sitesi ve blogu, öneri sisteminin izleme geçmişi, arama geçmişi, abonelikler, beğeniler ve kullanıcıların videoları birden beşe kadar yıldızla puanladığı memnuniyet anketlerine verilen yanıtlar dahil olmak üzere 80 milyardan fazla sinyalden yararlandığını belirtiyor. Bu yanıtlardan yalnızca dört ve beş yıldızlı olanlar, YouTube'un "değerli izleme süresi" (valued watchtime) olarak adlandırdığı ölçüme dahil ediliyor. Şirket, önerilerin esas olarak ana sayfada ve "Sıradaki" panelinde göründüğünü, haber ve bilgilendirici konularda ise kendi tanımına göre güvenilir kaynaklardan gelen videoları öne çıkarmayı hedeflediğini, bu içerikler aksi halde daha fazla tıklama üretebilecek olsa bile sınırda kalan içeriklerin görünürlüğünü azaltmayı amaçladığını söylüyor.

Amazon'un kamuya açık belgelenen öneri teknolojisi Amazon Personalize, önerileri öncelikle "öğe etkileşim verisi" üzerinden üretiyor; bu, kullanıcıların bir katalogdaki öğeleri tıkladığı, görüntülediği veya satın aldığına ilişkin kayıtlar anlamına geliyor. AWS belgelerine göre hizmet, tür veya fiyat gibi öğe veya kullanıcı özniteliklerini de dahil edebiliyor ve "X ürününü görüntüleyen müşteriler şunu da görüntüledi", kişiselleştirilmiş arama sıralaması ve hedefli pazarlama segmentleri gibi kullanım senaryolarını destekliyor.

Bu konu neden düzenleyici denetimi gündeme getiriyor

Avrupa Birliği'nde Dijital Hizmetler Yasası (Digital Services Act), öneri sistemlerine özel yükümlülükler getiriyor. Yasanın uygulanmasını takip eden bir araştırma ağı olan DSA Observatory'nin hukuki analizine göre, 27. Madde platformların öneri sistemlerinin kullandığı ana parametreleri sade bir dille açıklamasını ve birden fazla seçenek bulunduğunda kullanıcıların bu ayarları değiştirmesine izin vermesini gerektiriyor. 38. Madde ise en büyük platformlar için daha ileri giderek, profilleme temelli olmayan en az bir öneri seçeneği sunulmasını zorunlu kılıyor. DSA Observatory, ayrıntılı düzenleyici rehberlik bulunmaması nedeniyle platformların açıklama kurallarını birbirinden farklı şekillerde yorumladığını ve esas olarak etkileşim için optimize edilmiş sistemlerin -tıklamalar, beğeniler, paylaşımlar ve izleme süresi- basit bir tüketici tahrişinin ötesine geçen riskler yaratabileceğini belirtiyor.

Amerika Birleşik Devletleri'nde Federal Ticaret Komisyonu (FTC), dokuz sosyal medya ve video akış şirketine yönelik çok yıllı bir soruşturmanın ardından Eylül 2024'te bir personel raporu yayımladı. Rapor, bu şirketlerin kullanıcı ve kullanıcı olmayan kişilere ait kişisel bilgileri algoritmalar ve yapay zekâ dahil otomatik sistemlere aktardığı, bu sırada insanlara verilerinin nasıl kullanıldığına dair çok az ya da hiç devre dışı kalma (opt-out) imkânı sunmadığı sonucuna vardı. Ajans ayrıca şirketler arasında bu sistemlerin iç testlerinin tutarsız şekilde yapıldığını tespit etti. O dönemde FTC Başkanı olan Lina Khan, altta yatan veri uygulamalarının "insanların mahremiyetini tehlikeye atabileceğini, özgürlüklerini tehdit edebileceğini ve onları kimlik hırsızlığından takip edilmeye kadar birçok zarara açık hale getirebileceğini" söyledi. Rapor, Kongre'nin kapsamlı bir mahremiyet yasası çıkarmasını önerdi.

Platformlar veri ve sınırlar hakkında ne diyor

Açık sorular

Platformlar genellikle etkileşim temelli kişiselleştirmeyi, kullanıcıların ilgili içeriği daha hızlı bulmasına yardımcı olan bir kolaylık olarak sunuyor. FTC raporuna ve AB'nin DSA'sına odaklanan düzenleyiciler ise aynı mekanizmayı bir şeffaflık ve veri yönetişimi sorunu olarak çerçeveliyor; davranışsal verilerin nasıl toplanıp yeniden kullanıldığı üzerinde kullanıcıların sınırlı denetime sahip olduğuna ve söz konusu otomatik sistemlerin tutarsız bir şekilde denetlendiğine dikkat çekiyorlar. İki açıklama biçimi de aynı temel gerçeğe dayanıyor: öneri motorları, yeni etkileşimler gerçekleştikçe sürekli olarak iyileştirilen, geniş kullanıcı popülasyonları arasında karşılaştırılan geçmiş davranışsal verileri kullanarak içerik ve ürünleri sıralıyor.