Hoe AI-aanbevelingsalgoritmen bepalen wat u online ziet en koopt

Vrijwel elk groot online platform bepaalt nu wat aan elke bezoeker wordt getoond met behulp van een AI-aangedreven aanbevelingssysteem. Deze systemen bepalen de volgorde van een Netflix-startpagina, de volgende video in de wachtrij op YouTube en de producten die worden vermeld onder "klanten hebben ook gekocht" op Amazon. Bedrijven beschrijven de mechanica anders, maar de onderliggende aanpak volgt een soortgelijk patroon: gedragsgegevens verzamelen, vergelijken met gegevens van andere gebruikers en inhoud of producten rangschikken op basis van voorspelde relevantie.

Hoe de systemen werken, volgens de platforms zelf

Het helpcentrum van Netflix stelt dat het aanbevelingssysteem de kijkgeschiedenis van een lid, hoe hij andere titels heeft beoordeeld en patronen van andere leden met vergelijkbare smaak evalueert – een methode die bekend staat als collaboratief filteren. Het houdt ook rekening met contentmetadata zoals genre, acteurs en releasejaar, plus contextsignalen waaronder tijd van de dag, apparaattype en voorkeurstaal. Netflix geeft expliciet aan dat het systeem demografische informatie zoals leeftijd of geslacht niet meeneemt.

YouTubes officiële "Hoe YouTube werkt"-site en blog stellen dat het aanbevelingssysteem steunt op meer dan 80 miljard signalen, waaronder kijkgeschiedenis, zoekgeschiedenis, abonnementen, likes en antwoorden op tevredenheidsenquêtes waarbij gebruikers video's van één tot vijf sterren beoordelen. Alleen reacties van vier en vijf sterren tellen mee voor wat YouTube "gewaardeerde kijktijd" noemt. Het bedrijf zegt dat aanbevelingen vooral op de startpagina en in het paneel "Volgende" verschijnen, en dat het voor nieuws- en informatieonderwerpen streeft naar het promoten van video's van bronnen die het als gezaghebbend definieert, terwijl het de zichtbaarheid van grensinhoud vermindert, zelfs als die inhoud anders mogelijk meer klikken zou genereren.

Amazons openbaar gedocumenteerde aanbevelingstechnologie, Amazon Personalize, genereert aanbevelingen voornamelijk uit "item interactiegegevens", dat wil zeggen records van gebruikers die op items in een catalogus klikken, deze bekijken of kopen. Volgens AWS-documentatie kan de service ook item- of gebruikerskenmerken zoals genre of prijs opnemen en ondersteunt het gebruiksscenario's inclusief "klanten die X hebben bekeken hebben ook bekeken", gepersonaliseerde zoekrangschikking en doelgerichte marketingsegmenten.

Waarom dit toezicht aantrekt

In de Europese Unie legt de Digital Services Act specifieke verplichtingen op aan aanbevelingssystemen. Artikel 27 verlangt van platforms dat zij in duidelijke taal uitleggen wat de belangrijkste parameters van hun aanbevelingssystemen zijn en gebruikers in staat stellen deze instellingen aan te passen wanneer er meerdere opties beschikbaar zijn, volgens juridische analyse van het DSA Observatory, een onderzoeksnetwerk dat de implementatie van de wet volgt. Artikel 38 gaat verder voor de grootste platforms en vereist ten minste één aanbevelingsoptie die niet op profiling is gebaseerd. Het DSA Observatory merkt op dat platforms de openbaarstellingsregels inconsistent hebben geïnterpreteerd zonder gedetailleerde regelgeving, en dat systemen die voornamelijk op engagement zijn geoptimaliseerd – klikken, likes, shares en kijktijd – risico's kunnen creëren die verder gaan dan eenvoudig consumentenverdriet.

In de Verenigde Staten publiceerde de Federal Trade Commission in september 2024 een personeelsrapport na een meerjaaronderzoek naar negen bedrijven op het gebied van sociale media en videostreamingsdiensten. Het rapport concludeerde dat deze bedrijven persoonlijke gegevens van gebruikers en niet-gebruikers in geautomatiseerde systemen, waaronder algoritmen en AI, hebben ingevoerd, terwijl zij mensen weinig of geen mogelijkheid gaven om zich af te melden voor hoe hun gegevens werden gebruikt. Het agentschap vond ook inconsistente interne tests van deze systemen in bedrijven. De toenmalige FTC-voorzitter Lina Khan zei dat de onderliggende praktijken "de privacy van mensen in gevaar kunnen brengen, hun vrijheden kunnen bedreigen en hen blootstellen aan allerlei schadelijk gedrag, van identiteitsdiefstal tot stalking". Het rapport adviseerde het Congres om uitgebreide privacywetgeving aan te nemen.

Wat platforms zeggen over gegevens en limieten

De openstaande vragen

Platforms presenteren over het algemeen op engagement gebaseerde personalisatie als een gemak dat gebruikers helpt sneller relevante inhoud te vinden. Regelgevers die zich richten op het FTC-rapport en de EU's DSA hebben dezelfde mechanica aangemerkt als een transparantie- en datagovernancevraagstuk, wijzend op beperkte gebruikerscontrole over hoe gedragsgegevens worden verzameld en opnieuw gebruikt, en op inconsistent toezicht op de betrokken geautomatiseerde systemen. Beide beschrijvingslijnen vertrouwen op dezelfde onderliggende feit: aanbevelingsmotoren rangschikken inhoud en producten met behulp van historische gedragsgegevens vergeleken over grote gebruikersbevolkingen, voortdurend verfijnd wanneer nieuwe interacties plaatsvinden.