黑箱決策阻礙問責追溯
Opaque Decisions Obstructing Accountability
驗證與確效
風險描述
當系統做出造成損害的決定後，組織投入資源分析卻無法確定原因時；系統因既無法向受影響者說明，也無法保證同類問題不再發生，只能以事後補償處理，根本問題持續存在，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.86
ISO/IEC 42001Annex A.6.2.8、A.8.2
NIST AI RMFMEASURE 2.9、MANAGE 4.1
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
於系統建置階段即部署決策審計軌跡，完整保存輸入、模型版本與中間依據，使事後可重建決策過程; 對高影響用途優先採用可解釋性較高的模型或搭配解釋工具，將不可解釋度納入選型準則; 建立根因分析程序，無法定因的損害事件須升級處理而非僅以補償結案