模型驗證機制缺失
Absence of Model Validation
驗證與確效
風險描述
當組織的模型由開發團隊自行驗證後上線，未設獨立審查時；系統因主管機關查核時要求提供獨立驗證報告，組織無法提出，且回頭檢視發現多項 AI 特有風險從未被評估，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.9、Art.43
NIST AI RMFMEASURE 1.1
NIST AI 600-1
ISO/IEC TR 24027
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
建立涵蓋 AI 特有風險的模型驗證框架（偏誤、穩健性、可解釋性），逐項評估並文件化; 設置獨立於開發團隊的審查機制，驗證報告經獨立簽核; 保存驗證證據以因應主管機關查核