傷害難以感知與量化
Harm Difficult to Perceive or Quantify
持續確效
風險描述
當系統的判斷對特定群體造成長期不利影響,但每個單一決定看來都合理時;系統因受影響者無從察覺自身處境與系統有關,組織也因無明確事件而未啟動檢討,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.26、Art.72
ISO/IEC 42001Annex A.6.2.6、A.5.4–A.5.5
NIST AI RMFMEASURE 2.11、MANAGE 4.1
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 1、Domain 6
具體風險處置與實施指引
對系統決策結果依受影響群體建立縱貫性統計監測,定期檢視是否出現系統性不利趨勢; 定義可量化的傷害指標並設定觸發檢討程序的門檻值,使無明確單一事件時仍能啟動檢討