招聘中的算法单一化：系统性拒绝与种族偏见

算法单一化造成了就业的系统性障碍

当少数第三方供应商向绝大多数雇主提供招聘算法时，就会形成算法单一化。这种权力的集中使得单一供应商的逻辑能够调解多个公司和行业对职位的准入，从而有效地为数百万申请人造成了机会瓶颈。

超过 90% 的美国雇主依赖招聘算法来筛选申请人。这种集中的影响是严重的：如果一名申请人未被共享算法推荐，他们很可能会被多个雇主同时拒绝，而从未被人类招聘人员看到过。

大规模种族差异的证据

涉及 156 家雇主、340 万名真实求职者和 400 万份申请的研究表明，根据美国就业法（Title VII）标准，存在显著的不利影响。

分层分析揭示了隐藏的偏见

先前的研究通常报告极低的不利影响，因为它们是对供应商数据进行汇总分析。然而，当按职位逐一进行分析时，偏见变得显而易见：

黑人申请人： 25.87% 的黑人申请人提交的申请被导向了对他们产生不利影响的职位。
亚裔申请人： 14.74% 的亚裔申请人提交的申请被导向了对他们产生不利影响的职位。

就总效应而言，亚裔申请人经历的最大缺口；如果他们能以每个职位中被选中率最高的种族群体的速率被选中，那么将会有额外的 29,000 份亚裔申请被推荐。

系统性拒绝的现象

当一名申请人因为都在使用相同的底层算法评估而遭到多个雇主拒绝时，就会发生系统性拒绝。这创造了一种同质化的结果，超出了如果每个雇主独立决策所能预期的结果。

量化同质化

对于提交了四份申请的申请人，10% 的人遭到了系统性拒绝。这一比例显著超过了统计学上的独立决策基准线。为了验证这一点，研究人员将数据与之前的一项研究（Kline et al., 2022）进行了对比，该研究涉及 108 家不使用集中式算法单一化的财富 500 强企业；在那种情况下，系统性拒绝率符合基准预测，这证明了过度的同质化是集中式算法评估的直接结果。

“申请税”

模拟显示，算法单一化增加了获得推荐所需的申请数量。在独立决策的情况下，一名申请人可能需要 10 份申请才能确保 99.9% 的概率获得至少一次推荐。在算法单一化的情况下，该数字跳升至 25 份申请。

算法问责制的政策建议

由于招聘 AI 被日益归类为“高风险 AI”（例如根据 EU AI Act），该研究提出了四项关键干预措施：

职位级测量： 监管机构必须评估单个职位的不利影响比例，而不是混合汇总数据，以防止偏见被“冲淡”。
市场监管： 联邦机构应当量化同质化结果的比例，以识别在单一雇主报告中无法察觉的系统性拒绝。
供应链监控： 政策制定者应当监控招聘供应链中的共享依赖项，以防止相关联的失败和竞争减少。
扩大研究访问权限： 立法者应当强制要求为独立研究人员提供数据访问权限，以便诊断和纠正主要招聘平台中的问题。

社区观点与反论点

行业专业人士和观察者就这些发现的实施和有效性提出了几点看法：

指标有效性： 有人认为，差异化影响标准可能会受到申请人行为的影响。如果某些人口统计学群体申请了与其资质不太匹配的职位，那么由此产生的拒绝率可能会表现为算法偏见，而实际上这反映了申请人池的构成。
“黑盒”体验： 许多候选人报告称，在与技术负责人交谈之前，他们就被“智能”或“性格”测试（例如由 Pymetrics 或 Workday 提供）筛选掉了，这实际上在流程的早期阶段移除了人类判断。
法律框架： 一些观察者指出，GDPR Article 22 明确禁止了欧盟在自动化个人决策和画像分析中进行此类操作，这表明此类系统性排除在欧洲司法管辖区是非法的。
替代招聘策略： 有经验的招聘经理建议，通过避免“名校背景”和标准化评分标准，转而采用行为面试和终身学习指标，可以帮助识别那些算法单一化通常会忽略的“璞玉”。