So funktionieren Empfehlungsalgorithmen: Die KI, die deinen Feed prägt

Jedes Mal, wenn jemand YouTube, TikTok oder eine ähnliche App öffnet, wertet Software Tausende möglicher Videos, Songs oder Beiträge in einem Bruchteil einer Sekunde aus und entscheidet, welche Handvoll zuerst angezeigt werden. Dies ist ein Empfehlungssystem: eine Reihe von Algorithmen, die vorhersagen, welche Elemente ein bestimmter Nutzer am wahrscheinlichsten möchte, aus einem Katalog, der zu groß ist, um ihn manuell zu durchsuchen.

Die zwei grundlegenden Ideen hinter jedem Empfehler

Nach NVIDIAs technischem Glossar zu Empfehlungssystemen kombinieren die meisten Engines zwei grundlegende Ansätze. Kollaboratives Filtern geht davon aus, dass Menschen, die ähnliche Entscheidungen in der Vergangenheit getroffen haben, dies auch in Zukunft tun werden, daher sucht das System nach Nutzern mit übereinstimmenden Verhaltensmustern und empfiehlt das, was diese ähnlichen Nutzer mochten. Inhaltsbasiertes Filtern dagegen betrachtet die Eigenschaften der Elemente selbst — Genre, Schauspieler, Audiomerkmale, Tags — und schlägt Elemente vor, die denen ähneln, mit denen ein Nutzer bereits interagiert hat.

Das Glossar von NVIDIA fügt eine dritte Schicht hinzu, die von einigen Plattformen verwendet wird: Kontextfilterung, die situative Details wie Gerätetyp, Tageszeit oder Standort berücksichtigt. Als Beispiel führt es die Praxis von Netflix an, das Land, Gerät, Datum und Uhrzeit zu gewichten, zu der ein Titel angesehen wurde, neben dem Ansehen selbst.

Moderne Systeme ersetzen oder ergänzen diese Ansätze zunehmend durch Deep Learning. NVIDIA beschreibt Methoden wie Neural Collaborative Filtering, das Matrixfaktorisierung mit mehrstufigen neuronalen Netzen kombiniert, um nichtlineare Beziehungen zwischen Nutzern und Elementen zu erfassen, und sequenzbasierte Modelle, die rekurrente Netze oder Transformer verwenden, um Muster in der Reihenfolge zu erlernen, in der ein Nutzer Dinge anschaut oder anhört.

Was Plattformen sagen, dass ihre eigenen Algorithmen optimieren

Unternehmen veröffentlichen selten ihren vollständigen Ranking-Code, aber einige beschreiben die Ziele und Signale dahinter. Der TikTok Newsroom gibt an, dass sein For You Feed Videos anhand von drei Signalkategorien ordnet: Nutzerinteraktionen (Likes, Shares, Follows, Kommentare und das, was eine Person erstellt), Videoinformationen (Beschriftungen, Sounds, Hashtags) und Geräte- oder Kontoeinstellungen (Sprache, Land, Gerätetyp). TikTok sagt, dass diese Signale unterschiedlich gewichtet werden — ein starkes Signal, wie das Ansehen eines längeren Videos bis zum Ende, zählt mehr als ein schwaches Signal, wie das Teilen einer allgemeinen Geografie mit anderen Zuschauern.

TikTok erklärt ausdrücklich, dass die Follower-Anzahl und die bisherige Erfolgsbilanz eines Erstellers mit hochperformanten Videos keine direkten Faktoren dafür sind, ob ein bestimmtes Video empfohlen wird. Das Unternehmen sagt auch, dass es absichtlich Inhalte mischt, die außerhalb der ausdrücklichen Interessen eines Nutzers liegen, und vermeidet, hintereinander Videos vom selben Ersteller oder mit denselben Sound zu zeigen, beschreibt dies als eine Möglichkeit, Menschen "zusätzliche Möglichkeiten zu geben, auf neue Inhaltskategorien zu stoßen", anstatt auf einen engen Feed beschränkt zu sein.

Youtubes offizielle Seite "How YouTube Works" beschreibt das Ziel seines Empfehlungssystems als das Verstehen, was ein Zuschauer braucht, und die Bereitstellung eines Seherlebnisses, das ihn zufriedenstellt, anstatt einfach die Sehdauer zu maximieren. Sie listet die Eingaben auf, die Empfehlungen speisen: Seherverhalten und Verlauf, explizites Engagement wie Likes und Dislikes, Abonnements und direktes Feedback, der Ruf und die Qualität eines Kanals und breitere Trends unter dem größeren Publikum, nicht nur die Geschichte einer Person. YouTube sagt, dass es Verhaltensdaten mit Zufriedenheitsumfragen und externen Evaluatoren-Teams ergänzt, um zu überprüfen, ob empfohlene Inhalte tatsächlich hochwertig sind, und dass es für sensible Themen wie Nachrichten, Finanzen, Gesundheit oder Wissenschaft besonderes Gewicht auf maßgebliche Quellen legt.

Warum zwei Menschen nie denselben Feed sehen

Weil kollaboratives Filtern das Verhalten eines Nutzers mit anderen Nutzern vergleicht und inhaltsbasiertes Filtern Elemente mit der eigenen Vergangenheit einer Person vergleicht, trägt kein Konto eine identische Mischung von Signalen — unterschiedliche Seherlebnisse, unterschiedliche Follows, unterschiedliche Geräte und Standorte. TikTok erklärt direkt, dass kein Nutzer die gleiche Kombination von Videos in seinem For You Feed sieht. Sowohl YouTube als auch TikTok sagen auch, dass das System mit jeder neuen Interaktion aktualisiert wird, daher kann ein Feed, der morgens beobachtet wird, bereits am Abend unterschiedlich aussehen, basierend auf dem, was dazwischen angesehen, übersprungen oder als "nicht interessiert" markiert wurde.

Wie genau denken Menschen, dass diese Systeme sind?

Die Forschung zu der Art und Weise, wie Menschen tatsächlich algorithmische Personalisierung wahrnehmen, ist begrenzter als die Ingenieurliteratur. Eine Pew Research Center-Umfrage, die am 16. Januar 2019 veröffentlicht wurde, fragte Facebook-Nutzer nach den Interesse- und Eigenschaftskategorien, die die Plattform ihnen für das Ad-Targeting zugewiesen hatte. Sie stellte fest, dass 74% der Nutzer diese Liste von Eigenschaften nicht kannten, bis die Umfrage sie darauf hinwies, und nur 12% waren sich vorher bewusst. Nachdem ihre eigenen Kategorien gezeigt worden waren, sagten 59%, dass die Labels ihre echten Interessen angemessen oder sehr genau widerspiegelten, während 27% nicht zustimmten; 51% sagten, dass sie sich unwohl fühlten, dass die Plattform solche Listen kompilierte, selbst wenn sie diese für genau hielten. Die Umfrage umfasste 963 US-Facebook-Nutzer, Alter 18 und älter, befragt vom 4. September bis 1. Oktober 2018.

Können Nutzer den Algorithmus beeinflussen oder begrenzen?

Beide Unternehmen beschreiben benutzerorientierte Kontrollen. Youtubes offizielle Seite vermerkt, dass angemeldete Nutzer ihre Such- und Seherlebnisse jederzeit pausieren, bearbeiten oder löschen können, was direkt in das einfließt, was das Empfehlungssystem lernt. TikTok sagt, dass Likes, Follows, Kommentare, Hashtag-Erkundung und explizite "Not Interested" Taps alle zukünftige Empfehlungen anpassen, zusätzlich zu den Interessenkategorien, die eine Person bei der ersten Kontoeinrichtung auswählen kann.