AI 招聘中的演算法單一文化：種族偏見與系統性拒絕

AI 招聘工具放大種族偏見與系統性排除

AI 招聘供應商市場的集中度形成了「演算法單一文化」，單一工具的偏見可能系統性地將特定族群的求職者從整個產業中排除。斯坦福 HAI 的一項大規模研究分析了 1700 個職缺的 400 萬份求職申請，發現有 26% 的黑人申請者與 15% 的亞洲人申請者投遞的職位，其 AI 系統根據 EEOC 的「四分之五法則」呈現種族歧視。

演算法單一文化的影響

當多家雇主依賴同一家第三方 AI 供應商進行篩選時，若該供應商的演算法拒絕了某位候選人，其他使用相同工具的雇主也更可能拒絕該候選人，無論各公司的實際需求為何。

系統性拒絕率

研究顯示，向同一家供應商篩選的多個職位投遞申請的候選人，被所有職位同時拒絕的機率高於若每家公司獨立決策的情況。具體而言，投遞四份申請的求職者中，有 10% 被全部拒絕。此現象在對比 83,000 份投遞至 Fortune 500 公司的申請（AI 篩選並非核心焦點）的研究中未見，顯示 AI 供應商的市場集中是此系統性拒絕的主要驅動因素。

篩選的「黑盒」

招聘流程通常遵循固定路徑：求職者提交申請 → 第三方 AI 供應商的機器學習模型做出預測 → 供應商向雇主傳送「推薦」或「不推薦」標籤。由於這些工具被廣泛採用卻缺乏透明度，其對勞動力組成的影響大多隱藏於公眾與求職者之外。

衡量種族偏見與「四分之五法則」

為了辨識不利影響，研究人員使用 EEOC 的「四分之五法則」，當某族群的推薦率低於最高推薦族群（通常為白人）80% 時，即視為歧視。

聚合資料的危險

研究指出，偏見測量常出現的關鍵缺陷：當所有職位的推薦結果合併（將供應商視為單一巨大的流程）時，不利影響往往消失；但若逐一職位分析，則會顯現顯著的種族差異。例如，AI 可能在倉儲職位上推薦黑人申請者，但在金融職位上很少這樣做；將這些結果平均會掩蓋高價值職位中的具體歧視情形。

技術與方法論批評

雖然斯坦福 HAI 的發現具重要性，實務工作者與研究者之間的技術討論也指出了資料與方法上的多項細節：

相關性 vs. 因果性

批評者認為研究顯示的是「不同結果」(disparate impact) 而非「不同對待」(disparate treatment)。有觀點指出，拒絕與種族之間的相關性可能是由代理變數（如郵遞區號、教育背景或地理位置）驅動，而非 AI 明確使用種族作為變數。

拒絕的訊號 vs. 噪音

部分分析師認為系統性拒絕率未必僅源於 AI 偏見，而是「訊號」的反映：若候選人的履歷缺乏許多雇主重視的基礎成功指標，無論是 AI 還是人工系統，只要能辨識出這些缺失，都會予以拒絕。

評估工具 vs. 履歷篩選

有讀者指出，此研究聚焦於評估工具（如基於遊戲的測驗），而非傳統的 CV/履歷篩選，這可能改變偏見進入系統的方式。正如一位評論者所說：

"該論文…未提及任何可能暗示種族或性別偏見的履歷篩選。它純粹是關於評估工具，與 AI 或大型語言模型無關。"

法規回應

針對這些風險，部分司法管轄區正實施更嚴格的監管。歐盟《AI 法案》將用於招聘的 AI 應用歸類為「高風險」，要求必須遵守品質、透明度、人為監督與安全義務，以保護基本權利。