AI 招聘中的算法单一化：种族偏见与系统性拒绝

AI 招聘工具放大种族偏见与系统性排斥

AI 招聘供应商市场的集中化创造了“算法单一化”（algorithmic monocultures），在这种情况下，单一工具的偏见可能会系统性地将特定候选人群体从整个行业中排除在外。斯坦福大学 HAI 进行的一项大规模研究，通过分析 1,700 个职位发布的 400 万份求职申请，发现根据 EEOC 的“五分之四原则”（four-fifths rule），26% 的黑人申请人与 15% 的亚洲申请人申请了 AI 系统表现出种族歧视的职位。

算法单一化的影响

当多家雇主依赖同一家第三方 AI 招聘供应商进行筛选时，被该供应商算法拒绝的候选人，更有可能被所有使用相同工具的其他雇主拒绝，而无论单个公司的具体需求如何。

系统性拒绝率

研究表明，向由同一供应商筛选的职位提交多次申请的候选人，被每一个职位拒绝的可能性，比每个公司独立做出决策时要高。具体而言，提交了四份申请的申请人中，有 10% 被全部拒绝。在对财富 500 强企业的 83,000 份申请的对比研究中，并未观察到这种模式（在这些企业中，AI 筛选是次要关注点），这表明 AI 供应商的市场集中度是这种系统性拒绝的主要驱动因素。

筛选的“黑箱”

招聘流程通常遵循一条僵化的路径：求职者提交申请，第三方 AI 招聘供应商的机器学习模型做出预测，然后供应商向雇主发送“推荐”或“不推荐”标签。由于这些工具被广泛采用且不透明，它们对劳动力构成的影响在很大程度上对公众和候选人来说是隐藏的。

衡量种族偏见与“五分之四原则”

为了识别不利影响，研究人员利用了 EEOC 的“五分之四原则”，即当某一群体的推荐率低于最受推荐群体（通常是白人申请人）的 80% 时，即被标记为歧视。

聚合数据的危险性

该研究强调了衡量偏见的一种关键缺陷。当推荐结果在所有职位中进行汇总（将供应商视为一个巨大的单一过程）时，不利影响往往会消失。然而，当逐一分析职位时，显著的种族差异就会显现。例如，AI 可能会为仓库职位推荐黑人申请人，但很少为金融职位推荐黑人申请人；将这些结果进行平均处理会掩盖高价值职位中发生的特定歧视。

技术与方法论批判

虽然斯坦福 HAI 的研究结果具有重要意义，但从业者和研究人员之间的技术讨论突出了关于数据和方法论的几个细微差别：

相关性 vs. 差异化影响

批评者认为，该研究展示的是“差异化影响”（disparate impact，即结果）而非“差异化待遇”（disparate treatment，即意图或直接原因）。一些人认为，拒绝与种族之间的相关性可能是由代理变量（proxies）驱动的——例如邮政编码、教育背景或地理位置——而不是 AI 显式地将种族作为变量使用。

拒绝中的信号与噪声

一些分析师认为，系统性拒绝率可能不仅仅是 AI 偏见的结果，而是“信号”的体现。如果候选人的简历中缺乏许多雇主看重的成功基准指标，他们将被任何识别这些缺失指标的系统（无论是 AI 还是人类）拒绝。

评估工具 vs. 简历筛选

一些读者指出，这项特定研究关注的是评估工具（例如基于游戏化的评估），而非传统的 CV/简历筛选，这可能会改变偏见引入系统的途径。正如一位评论者所言：

"The paper... does not mention any CV screening that might suggest racial or gender bias. It is purely about assessment tool. No AI or LLMs."

监管响应

为了应对这些风险，一些司法管辖区正在实施更严格的监督。欧盟的 AI Act 将招聘中使用的 AI 应用分类为“高风险”（High-risk），使其必须承担强制性的质量、透明度、人类监督和安全性义务，以偿保护基本权利。