人工智能推荐算法如何决定你在线看到和购买的内容

几乎每个主要的在线平台现在都使用AI驱动的推荐系统来决定向每个访问者显示什么。这些系统决定了Netflix主页的顺序、YouTube上队列中的下一个视频，以及Amazon上"客户也购买了"下面列出的产品。公司以不同的方式描述这些机制，但基本方法遵循类似的模式：收集行为数据、将其与其他用户的数据进行比较，并按预测相关性对内容或产品进行排名。

根据平台本身，这些系统如何工作

Netflix的帮助中心说明其推荐系统评估会员的观看历史、他们对其他标题的评分以及具有相似品味的其他成员的模式——这种方法被称为协作过滤。它还考虑了内容元数据，如类型、演员和发布年份，以及上下文信号，包括一天中的时间、设备类型和首选语言。Netflix明确表示该系统不考虑年龄或性别等人口统计信息。

YouTube的官方"YouTube工作原理"网站和其博客说明推荐系统利用超过800亿个信号，包括观看历史、搜索历史、订阅、点赞和满意度调查的回复，用户对视频的评分从一到五星。只有四星和五星的回复才计入YouTube所称的"有价值的观看时间"。该公司表示推荐主要出现在主页和"接下来播放"面板中，对于新闻和信息性主题，它旨在推广来自其定义的权威来源的视频，同时减少存疑内容的可见性，即使该内容可能会产生更多点击。

Amazon的公开文档化推荐技术Amazon Personalize主要从"项目交互数据"生成推荐，即用户在目录中点击、查看或购买项目的记录。根据AWS文档，该服务还可以整合项目或用户属性，如类型或价格，并支持使用案例，包括"查看过X的客户也查看过"、个性化搜索排名和有针对性的营销细分。

为什么这吸引了监管审查

在欧盟，《数字服务法》对推荐系统规定了具体义务。根据追踪该法律实施的研究网络DSA观察所的法律分析，第27条要求平台以简明语言解释其推荐系统使用的主要参数，并在存在多个选项时让用户调整这些设置。第38条对最大的平台走得更远，要求至少有一个不基于用户分析的推荐选项。DSA观察所指出，由于缺乏详细的监管指导，平台对披露规则的解释不一致，而主要针对参与度优化的系统——点击、点赞、分享和观看时间——可能会产生超越简单消费者烦恼的风险。

在美国，联邦贸易委员会在2024年9月发布了一份工作人员报告，该报告是对九家社交媒体和视频流媒体公司多年调查的后续。该报告得出结论，这些公司将用户和非用户个人信息输入自动化系统，包括算法和AI，同时几乎没有或没有给予人们选择退出其数据如何使用的能力。该机构还发现这些系统在各公司中的内部测试不一致。前FTC主席莉娜·汗表示，基础数据实践"可能危及人们的隐私、威胁他们的自由，并将他们暴露于众多伤害，从身份盗窃到骚扰。"该报告建议国会通过全面的隐私立法。

平台对数据和限制的说法

未解决的问题

平台通常将基于参与度的个性化呈现为一种便利，可帮助用户更快地找到相关内容。专注于FTC报告和欧盟DSA的监管机构将相同的机制框架化为透明度和数据治理问题，指出用户对行为数据如何收集和重新使用的控制有限，以及对所涉及自动化系统的监督不一致。两种描述线都依赖于同一基本事实：推荐引擎使用与大用户群体进行比较的历史行为数据对内容和产品进行排名，并随着新交互的发生而不断完善。