Wie KI-Empfehlungsalgorithmen entscheiden, was Sie online sehen und kaufen

Mittlerweile nutzt fast jede große Online-Plattform ein KI-gestütztes Empfehlungssystem, um zu entscheiden, was jedem Besucher angezeigt wird. Diese Systeme bestimmen die Reihenfolge der Netflix-Startseite, das nächste Video in der YouTube-Warteschlange und die unter "Kunden kauften auch" aufgeführten Produkte auf Amazon. Unternehmen beschreiben die Funktionsweise unterschiedlich, aber der zugrunde liegende Ansatz folgt einem ähnlichen Muster: Verhaltensdaten sammeln, diese mit Daten anderer Nutzer vergleichen und Inhalte oder Produkte nach vorhergesagter Relevanz ordnen.

Wie die Systeme nach Angaben der Plattformen funktionieren

Im Hilfecenter von Netflix wird angegeben, dass sein Empfehlungssystem die Ansehensgeschichte eines Mitglieds, wie es andere Titel bewertet hat, und Muster anderer Mitglieder mit ähnlichen Vorlieben berücksichtigt – eine Methode, die als kollaboratives Filtern bekannt ist. Es bezieht auch Inhaltsmetadaten wie Genre, Schauspieler und Veröffentlichungsjahr sowie Kontextsignale wie Tageszeit, Gerätetyp und bevorzugte Sprache ein. Netflix gibt explizit an, dass das System demografische Informationen wie Alter oder Geschlecht nicht berücksichtigt.

YouTubes offizieller "So funktioniert YouTube"-Bereich und sein Blog geben an, dass das Empfehlungssystem auf mehr als 80 Milliarden Signale angewiesen ist, darunter Ansehensgeschichte, Suchverlauf, Abos, Likes und Antworten auf Zufriedenheitsumfragen, bei denen Nutzer Videos von eins bis fünf Sternen bewerten. Nur Bewertungen von vier und fünf Sternen zählen zu dem, was YouTube "geschätzte Ansehenszeit" nennt. Das Unternehmen gibt an, dass Empfehlungen hauptsächlich auf der Startseite und im Bereich "Nächstes Video" angezeigt werden, und dass es für Nachrichten- und Informationsthemen darauf abzielt, Videos von Quellen zu fördern, die es als zuverlässig definiert, während es die Sichtbarkeit von Grenzinhalten verringert, auch wenn dieser Inhalt ansonsten möglicherweise mehr Klicks generiert.

Amazons öffentlich dokumentierte Empfehlungstechnologie, Amazon Personalize, generiert Empfehlungen hauptsächlich aus "Item-Interaktionsdaten", also Aufzeichnungen von Nutzern, die Elemente in einem Katalog anklicken, ansehen oder kaufen. Nach der AWS-Dokumentation kann der Service auch Item- oder Nutzerattribute wie Genre oder Preis einbeziehen und unterstützt Anwendungsfälle wie "Kunden, die X angesehen haben, haben auch angesehen", personalisierte Suchergebnis-Ranking und zielgerichtete Marketing-Segmente.

Warum dies verstärkte regulatorische Aufmerksamkeit auf sich zieht

In der Europäischen Union sieht das Gesetz über digitale Dienste (Digital Services Act) spezifische Anforderungen für Empfehlungssysteme vor. Artikel 27 verpflichtet Plattformen, die wichtigsten Parameter ihrer Empfehlungssysteme in verständlicher Sprache zu erläutern und Nutzern die Möglichkeit zu geben, diese Einstellungen anzupassen, falls mehrere Optionen vorhanden sind, gemäß der Rechtsanalyse des DSA Observatory, eines Forschungsnetzwerks, das die Umsetzung des Gesetzes verfolgt. Artikel 38 geht für die größten Plattformen noch weiter und verlangt mindestens eine Empfehlungsoption, die nicht auf Profilerstellung basiert. Das DSA Observatory vermerkt, dass Plattformen die Offenlegungsregeln in Ermangelung detaillierter Regulierungsvorgaben unterschiedlich ausgelegt haben, und dass Systeme, die hauptsächlich auf Engagement optimiert sind – Klicks, Likes, Shares und Ansehenszeit –, Risiken schaffen können, die über einfache Nutzerunzufriedenheit hinausgehen.

In den USA veröffentlichte die Federal Trade Commission im September 2024 einen Mitarbeiterbericht nach einer mehrjährigen Untersuchung von neun Unternehmen in den Bereichen soziale Medien und Video-Streaming. Der Bericht kam zu dem Ergebnis, dass diese Unternehmen Benutzer- und Nichtbenutzer-Personaldaten in automatisierte Systeme, einschließlich Algorithmen und KI, eingespeist haben, während sie Menschen wenig oder gar keine Möglichkeit gaben, sich von der Nutzung ihrer Daten abzumelden. Die Behörde stellte auch inkonsistente interne Tests dieser Systeme in den Unternehmen fest. Die damalige FTC-Vorsitzende Lina Khan sagte, dass die zugrunde liegenden Datenpraktiken "die Privatsphäre gefährden, Freiheiten bedrohen und Menschen einer Vielzahl von Schäden aussetzen können, von Identitätsdiebstahl bis zu Stalking". Der Bericht empfahl dem Kongress, umfassende Datenschutzgesetze zu verabschieden.

Was Plattformen über Daten und Grenzen sagen

Die offenen Fragen

Plattformen präsentieren Engagement-basierte Personalisierung generell als eine Annehmlichkeit, die Nutzern hilft, schneller relevante Inhalte zu finden. Regulatoren, die sich auf den FTC-Bericht und die EU-Richtlinie zur digitalen Dienste konzentrieren, haben die gleichen Mechaniken als Transparenz- und Datengovernance-Problem gerahmt und auf begrenzte Nutzerkontrolle über die Erfassung und Wiederverwendung von Verhaltensdaten sowie auf inkonsistente Überwachung der beteiligten automatisierten Systeme hingewiesen. Beide Beschreibungslinien verlassen sich auf die gleiche zugrunde liegende Tatsache: Empfehlungsmaschinen ordnen Inhalte und Produkte mithilfe historischer Verhaltensdaten, die über große Nutzerpopulationen verglichen werden, und die sich kontinuierlich mit neuen Interaktionen verfeinern.