歷史資料中的社會偏誤
Societal Bias Embedded in Historical Data
設計與開發
風險描述
當組織採用自動化篩選模型處理人才招募或資源分配時；系統因訓練資料集承襲歷史社會偏見且未執行去偏誤 (De-biasing) 預處理，於運算時將中性特徵轉化為代理歧視變數，除系統性剝奪特定族群平等機會外，亦造成違反就業平權法規與 ESG 評級重挫之營運代價。
框架對照
EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 1
具體風險處置與實施指引
於訓練前執行資料集偏見審計，檢視各族群在歷史紀錄中的分布與標籤傾向; 上線前後持續監測跨族群公平性指標（通過率、評分分布差異）; 對人事決策系統保留評分依據紀錄，申訴時可說明並複核