供應商不透明阻礙風險評估
Supplier Opacity Preventing Risk Assessment
啟動
風險描述
當組織評估導入外部 AI 服務時,向供應商索取模型限制與測試報告遭拒,僅能取得行銷性質的效能宣稱時;系統因組織在無法驗證的情況下決定上線,日後系統於特定情境下大量失誤,才發現該情境正是供應商已知但未揭露的弱項,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.13
ISO/IEC 42001Annex A.10.3
NIST AI RMFGOVERN 6.1
ISO/IEC 5338啟動
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
將模型限制說明、測試報告與已知弱項揭露列為採購的必要條件,供應商拒絕提供者不予採用; 對無法充分驗證的外部服務執行獨立評估或沙盒測試,以自有情境資料驗證效能宣稱; 於合約明訂已知缺陷未揭露的責任歸屬與賠償條款