史丹佛大規模研究揭示 AI 招聘放大種族偏差，黑人與亞裔求職者受影響最深
史丹佛主導的大型研究指出，AI 招聘工具實用情境，可能放大族群偏差，且黑人與亞裔受影響度更明顯。團隊分析 2018 年 12 月至 2022 年 12 月間，Pymetrics 平台提交的 400 萬份求職申請，涵蓋 156 家雇主（資料顯示多數雇主年營收達 50 億美元以上），發現系統性拒絕現象與 Pymetrics 的演算法模型有關。
這項由史丹佛人本人工智慧研究院（Stanford Institute for Human-Centered AI）主導研究，或為迄今最大規模 AI 徵才演算法實證檢驗。結果顯示，求職者若要幾乎確定至少一次進入第二輪的推薦，平均得投遞至少 25 個不同職缺。樣本的職位，約每十個職缺就有一個對黑人應徵者有不利影響，亞裔申請者則約每 20 個職缺有同樣狀況。
部分公司不同職缺甚至共用相同演算法模型，團隊辨識出 42 組跨雇主共享的模型，代表一名應徵者若被某家公司拒絕，採用同模型的其他公司也會跟著失利。研究員還發現，連續申請十個職缺的應徵者，有 4% 被平台演算法建議拒絕所有職缺，比例高於隨機預測。
Pymetrics 母公司 Harver 截至報導刊出都未回應。團隊提醒，結果未必能直接推論至所有 AI 篩選系統，因 Pymetrics 的遊戲式測評，與履歷篩選等其他方法不同。Pymetrics 模型會評估風險傾向、反應速度，以及信任與關懷等特質，並推薦表現最接近公司頂尖員工樣貌的應徵者進入第二輪。
（首圖來源：Stanford HAI）