招募篩選性別偏誤
Gender Bias in Recruitment Screening
驗證與確效
風險描述
當組織導入自動篩選以提升效率,數月後發現特定性別的通過率明顯下降時;系統因檢視發現模型將若干與性別高度相關的中性特徵視為負向訊號,而這些特徵從未被列為評估項目,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 1
具體風險處置與實施指引
對招募系統執行公平性審計,檢視與性別高度相關特徵的實際權重; 實施特徵去敏感化,移除或中和與受保護屬性高度相關的變數; 監測各性別通過率並設定告警門檻