Comment les algorithmes de recommandation d'IA décident ce que vous voyez et achetez en ligne

Presque toutes les grandes plateformes en ligne décident désormais ce qu'il faut montrer à chaque visiteur en utilisant un système de recommandation basé sur l'IA. Ces systèmes déterminent l'ordre de la page d'accueil Netflix, la prochaine vidéo en file d'attente sur YouTube et les produits listés sous « Les clients ont également acheté » sur Amazon. Les entreprises décrivent les mécanismes différemment, mais l'approche sous-jacente suit un schéma similaire : collecter les données comportementales, les comparer avec les données d'autres utilisateurs et classer le contenu ou les produits par pertinence prédite.

Comment fonctionnent les systèmes, selon les plateformes elles-mêmes

Le centre d'aide de Netflix indique que son système de recommandation évalue l'historique de visionnage d'un membre, la façon dont il a évalué d'autres titres et les modèles d'autres membres ayant des goûts similaires—une méthode connue sous le nom de filtrage collaboratif. Il tient également compte des métadonnées de contenu telles que le genre, les acteurs et l'année de sortie, plus les signaux contextuels incluant l'heure de la journée, le type d'appareil et la langue préférée. Netflix affirme explicitement que le système ne tient pas compte des informations démographiques telles que l'âge ou le sexe.

Le site officiel « Comment fonctionne YouTube » de YouTube et son blog indiquent que le système de recommandation s'appuie sur plus de 80 milliards de signaux, incluant l'historique de visionnage, l'historique de recherche, les abonnements, les mentions « J'aime » et les réponses aux sondages de satisfaction où les utilisateurs évaluent les vidéos de un à cinq étoiles. Seules les réponses à quatre et cinq étoiles comptent pour ce que YouTube appelle le « temps de visionnage valorisé ». La société affirme que les recommandations apparaissent principalement sur la page d'accueil et dans le panneau « À suivre », et que pour les sujets d'actualité et informatifs, elle vise à promouvoir des vidéos provenant de ce qu'elle définit comme des sources fiables tout en réduisant la visibilité du contenu contestable, même si ce contenu pourrait autrement générer plus de clics.

La technologie de recommandation documentée publiquement d'Amazon, Amazon Personalize, génère des recommandations principalement à partir des « données d'interaction d'articles », c'est-à-dire des enregistrements d'utilisateurs cliquant, visualisant ou achetant des articles dans un catalogue. Selon la documentation AWS, le service peut également incorporer des attributs d'articles ou d'utilisateurs tels que le genre ou le prix, et prend en charge des cas d'usage incluant « Les clients qui ont consulté X ont aussi consulté », le classement de recherche personnalisé et les segments de marketing ciblés.

Pourquoi cela attire l'examen réglementaire

Dans l'Union européenne, la Loi sur les services numériques impose des obligations spécifiques aux systèmes de recommandation. L'article 27 exige que les plateformes expliquent, en langage clair, les principaux paramètres que leurs systèmes de recommandation utilisent et permettent aux utilisateurs d'ajuster ces paramètres lorsque plusieurs options existent, selon une analyse juridique du Groupe d'observation de la DSA, un réseau de recherche suivant la mise en œuvre de la loi. L'article 38 va plus loin pour les plus grandes plateformes, exigeant au moins une option de recommandation qui ne soit pas basée sur le profilage. Le Groupe d'observation de la DSA note que les plateformes ont interprété les règles de divulgation de manière incohérente en l'absence d'orientations réglementaires détaillées, et que les systèmes optimisés principalement pour l'engagement—clics, mentions « J'aime », partages et temps de visionnage—peuvent créer des risques qui vont au-delà du simple désagrément du consommateur.

Aux États-Unis, la Commission fédérale du commerce a publié un rapport du personnel en septembre 2024 suite à une enquête de plusieurs années auprès de neuf entreprises de médias sociaux et de diffusion en continu. Le rapport a conclu que ces entreprises ont alimenté les données personnelles des utilisateurs et des non-utilisateurs dans des systèmes automatisés, y compris les algorithmes et l'IA, tout en donnant aux gens peu ou pas de capacité à refuser la manière dont leurs données étaient utilisées. L'agence a également constaté des tests internes incohérents de ces systèmes dans les entreprises. L'ancienne présidente de la FTC, Lina Khan, a déclaré que les pratiques de données sous-jacentes « peuvent mettre en danger la vie privée des gens, menacer leurs libertés et les exposer à une série de préjudices, allant du vol d'identité au harcèlement ». Le rapport a recommandé que le Congrès adopte une législation complète sur la protection de la vie privée.

Ce que les plateformes disent sur les données et les limites

Les questions ouvertes

Les plateformes présentent généralement la personnalisation basée sur l'engagement comme une commodité qui aide les utilisateurs à trouver du contenu pertinent plus rapidement. Les régulateurs se concentrant sur le rapport de la FTC et la DSA de l'UE ont encadré la même mécanique comme une question de transparence et de gouvernance des données, soulignant le contrôle limité des utilisateurs sur la façon dont les données comportementales sont collectées et réutilisées, et la supervision incohérente des systèmes automatisés impliqués. Les deux lignes de description s'appuient sur le même fait sous-jacent : les moteurs de recommandation classent le contenu et les produits en utilisant des données comportementales historiques comparées dans de grandes populations d'utilisateurs, affinées continuellement à mesure que de nouvelles interactions se produisent.