AI招聘工具中的算法偏见如何复制职场歧视

企业越来越多地使用基于机器学习构建的软件来筛选简历、对候选人进行排名，甚至开展初期面试。研究人员和监管机构发现，其中几个系统即使在候选人基本资质相同的情况下，也会对不同性别、种族或年龄的申请者产生不同的结果。

什么是招聘中的算法偏见？

算法偏见是指机器学习系统的输出系统性地偏向或不利于某些群体，而这与工作相关的资质无关。美国国家标准与技术研究院（NIST）在其网站上发布的草案标准SP 1270《走向识别和管理人工智能偏见的标准》（Towards a Standard for Identifying and Managing Bias in Artificial Intelligence）所收到的公众评论将此描述为一个社会技术问题：偏见不仅可能通过算法的统计设计进入系统，还可能通过其训练所用的历史数据以及部署该系统所处的人类和制度背景进入系统。

具体到招聘领域，模型通常基于过去的简历、过去的招聘决策，或由大语言模型（LLM）生成的文本进行训练。如果产生这些历史数据的劳动力本身在性别、种族或年龄方面存在偏差——这在许多行业中是普遍现象——模型就可能学会复制这种偏差，并将其误当作衡量能力的标准。

一个已记录的案例：亚马逊废弃的招聘引擎

根据美国公民自由联盟（ACLU）的说法，最早且被广泛引用的例子之一涉及亚马逊从2014年开始构建的一款实验性招聘工具，该工具为求职者打出一到五星的评分。该系统通过观察该公司约十年间收到的简历中的模式进行训练，而这些简历的申请者绝大多数为男性，反映了相关技术岗位中男性占主导的情况。

ACLU报告称，该工具会对包含“women's”（女性的）一词的简历进行惩罚——例如“women's rugby team”（女子橄榄球队）——并降低两所女子学院毕业生的评分，同时更青睐使用男性技术简历中更常见动词的简历，例如“executed”（执行）和“captured”（获取）。亚马逊的工程师曾试图修复这一模式，但根据ACLU对该项目报道的描述，他们最终认定无法保证从根本上消除这一问题，于是在2015年——该工具开始测试约一年后——将其关闭。

近期关于AI简历筛选的研究发现了什么

较新的研究测试了目前嵌入在许多商业招聘产品中的大语言模型。华盛顿大学的一项研究于2024年10月在AAAI/ACM人工智能、伦理与社会会议上发表，测试了三款开源大语言模型——分别来自Mistral AI、Salesforce和Contextual AI——方法是将120个与白人及黑人男女相关联的姓名分配给550多份真实简历，并将其与跨越九个职业的500多个真实职位招聘信息进行排名比较，共产生了超过300万次简历与职位的比较。

主要作者凯拉·威尔逊（Kyra Wilson）与合著者艾琳·卡利斯坎（Aylin Caliskan）均来自华盛顿大学信息学院，他们发现，带有白人关联姓名的简历在85%的情况下获得优先，而带有黑人关联姓名的简历仅占9%；带有男性关联姓名的简历在52%的情况下获得优先，而带有女性关联姓名的简历仅占11%。该模型从未将带有黑人男性关联姓名的简历排在带有白人男性姓名的简历之前——研究人员表示，这一模式只有在将种族与性别一起分析，而非分别分析时才会显现出来。

主要发现一览

偏见机制的运作方式

在每一个已记录的案例中，这种模式都可追溯到模型从训练文本中吸收的训练数据或关联关系，而非源于明确的歧视指令。亚马逊的工具是从历史上以男性为主的申请者群体中学习的。华盛顿大学研究人员测试的大语言模型，则从其训练所用的更广泛文本语料库中携带了基于姓名的种族和性别关联。

针对NIST偏见标准草案的评论指出，由于这些系统运作于既有的社会和制度结构之内，仅从数据集中消除偏见并不能保证结果公平——这一结论与亚马逊自身的经验相符：据ACLU描述，该公司工程师多次修复尝试均未能解决其工具背后的根本模式。

监管机构如何应对

根据法律事务所Pivot Point Security对该措施的总结，纽约市《地方法律第144号》（Local Law 144）自2023年7月起由消费者与劳工保护局（Department of Consumer and Worker Protection）执行，要求使用“自动化就业决策工具”进行招聘或晋升的雇主每年委托进行一次独立的偏见审计，公开发布审计结果摘要，并在使用该工具前至少十个工作日通知候选人。根据同一份总结，违规行为每次可处以500美元至1500美元的民事罚款。

根据加州民权委员会（Civil Rights Council）2025年6月自己发布的公告，该委员会依据该州《公平就业与住房法》（Fair Employment and Housing Act）通过了新规定，自2025年10月1日起生效，明确雇主使用“自动化决策系统”若基于种族、性别或残疾等受保护特征损害申请人或员工利益，即可能违反州法律。该规定要求雇主至少保留自动化决策相关数据四年，并指出某些引出残疾相关信息的自动化评估可能构成非法医学询问。

这对求职者和雇主意味着什么

• 迄今在招聘AI中发现的偏见，均与训练数据——历史简历、网络图像或通用文本——中已有的社会模式相吻合，而非随机出现。
• 已记录的影响包括：偏向历史上占主导地位的人口群体的简历，以及对基本资质相同的申请者产生系统性不同的结果。
• 纽约市和加利福尼亚州现已对使用此类工具的雇主施加具体的法律义务——审计、记录保存，或两者兼有——尽管各辖区的要求有所不同。
• 华盛顿大学研究人员表示，在单一人口统计类别（例如仅种族）中识别出的偏见，可能掩盖了只有在将多个类别（如种族与性别）结合分析时才能显现的不同影响。