解釋工具產生誤導
Misleading Output from Explanation Tools
驗證與確效
風險描述
當審查人員依解釋工具提供的重要特徵說明核可決策時；系統因事後發現該解釋不穩定且未反映模型真實依據，先前基於此做出的多筆決定均須重新檢視，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.13
ISO/IEC 42001Annex A.6.2.4
NIST AI RMFMEASURE 2.9
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
於採用解釋工具前驗證其穩定性與忠實度，確認解釋確實反映模型依據; 以多元解釋方法交叉比對，重大決策不得僅憑單一解釋工具核可; 定期抽驗解釋品質，發現不穩定即停用並重審受影響決定