使用者負擔不均
Unequal User Burden
運行與監控
風險描述
當組織以整體滿意度評估服務品質,數據良好時;系統因實際上部分族群為達成相同任務需付出數倍時間與嘗試次數,這些使用者多數選擇放棄而非申訴,問題未反映於任何指標,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 1
具體風險處置與實施指引
監控使用者努力度指標(完成時間、嘗試次數、中途放棄率)並按族群拆分; 依無障礙與包容設計原則改善高負擔族群的互動路徑; 建立主動外展回饋機制,捕捉放棄而未申訴的沉默流失