S0188RS6-T22-S0188-Z · 完整風險編碼

流程設計取消人為否決

Process Design Eliminating Human Veto

運行與監控
風險描述

當受影響者對自動決定提出異議,卻發現組織內部沒有任何人具備推翻該決定的權限與管道時;系統因第一線人員只能回覆系統判定結果,爭議無從進入實質審查,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.14
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 5

具體風險處置與實施指引

建立人類否決權機制,確保組織內存在具權限推翻自動決定的角色與管道; 設計具實質審查的申訴管道,第一線之外須有人工複審層; 對自動決定明示可申訴權利與途徑