專業人員過度信賴系統判斷
Professional Over-Reliance on System Judgment
運行與監控
風險描述
當從業人員的初步判斷與系統建議不一致，在缺乏充分依據推翻系統的情況下選擇採信系統時；系統因該建議實為誤判，而人員原本的判斷才是正確的，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.14
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
設計 AI 輔助介面呈現不確定性與依據，避免以確定語氣誘導採信; 對推翻系統建議設計低摩擦路徑，專業人員的獨立判斷不因流程成本被壓抑; 以獨立判斷訓練與定期演練，維持人員不依賴系統的專業能力