流程設計取消人為否決
Process Design Eliminating Human Veto
運行與監控
風險描述
當受影響者對自動決定提出異議,卻發現組織內部沒有任何人具備推翻該決定的權限與管道時;系統因第一線人員只能回覆系統判定結果,爭議無從進入實質審查,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.14
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
建立人類否決權機制,確保組織內存在具權限推翻自動決定的角色與管道; 設計具實質審查的申訴管道,第一線之外須有人工複審層; 對自動決定明示可申訴權利與途徑