倫理判斷失當
Failure of Ethical Judgment
驗證與確效
風險描述
當組織將系統用於協助處理涉及價值權衡的案件時；系統對高度爭議的情境給出單一且確定的建議，承辦人員採納後引發當事人強烈反彈與外界批評，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Human-AI Configuration
OWASP Top 10 for LLMLLM09
NIST AI RMFGOVERN 3.2
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
明訂系統不得對高度價值權衡案件輸出單一確定建議，此類案件一律轉人類專家判斷; 於系統設計標註倫理判斷的邊界情境，觸及即提示多元觀點與不確定性; 建立爭議案件的專家審查與集體決策程序，避免承辦人單獨採納系統建議