版本變更未告知使用者
Version Changes Not Communicated to Users
運行與監控
風險描述
當下游應用的輸出品質突然下降，團隊耗費數日排查自身程式碼與資料時；系統因最終發現原因是上游模型版本更換，而此變更未曾被告知，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.13、Art.25
ISO/IEC 42001Annex A.10.3
NIST AI RMFGOVERN 6.1
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
於服務合約明訂上游模型版本變更的事前通知義務與變更說明內容; 在應用端記錄所依賴的模型版本並於每次呼叫驗證，版本異動即告警; 維護回歸測試集，收到變更通知或偵測到版本異動時立即執行