生物特徵辨識準確度差異
Disparate Accuracy in Biometric Recognition
驗證與確效
風險描述
當身分驗證系統對特定族群的辨識失敗率明顯偏高,這些使用者每次都需額外的人工查驗時;系統因組織原以整體準確率評估系統效能,未按族群拆分檢視,長期未察覺此差異,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 1
具體風險處置與實施指引
以跨族群準確度測試取代單一整體指標,各族群失敗率分開檢視; 以多元資料集訓練補強弱勢族群的辨識能力; 對失敗率偏高族群提供等效的替代驗證管道,避免服務負擔不均