風險評估工具的過度依賴
Over-Reliance on Risk Assessment Tools
運行與監控
風險描述
當決策者以系統評分作為主要依據,未充分考量個案中有利的具體事證時;系統因該工具對特定族群的誤差較高,導致這些個案持續獲得不利結果,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.14
NIST AI 600-1Human-AI Configuration
NIST AI RMFMEASURE 2.11
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
明訂風險評估系統僅作參考,決策須強制納入個案具體事證; 對特定族群誤差較高者施以校準與去偏並揭露適用限制; 定期執行偏見審計並監測分族群的決策結果差異