S0085RS4-T16-S0085-Z · 完整風險編碼

資源分配結果不平等

Unequal Outcomes in Resource Allocation

驗證與確效
風險描述

當自動化審核系統對特定地區的申請案通過率明顯偏低時;系統因組織原以整體通過率監控公平性,未按地區拆分,直到接獲集體申訴才發現差異,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 1

具體風險處置與實施指引

公平性監控按地區等次群體拆分,不以整體通過率為足; 對顯著偏低群體執行決策審計,追查模型依據; 建立集體性差異的告警門檻與定期檢視制度