S0091RS3-T13-S0091-Z · 完整風險編碼

部署階段模型遭替換

Model Substitution at Deployment

部署
風險描述

當組織的模型經完整驗證後進入自動部署流程,未於部署後再次驗證時;系統因攻擊者於流程末端替換模型,實際運行的版本與驗證通過的版本不同,而所有紀錄均顯示部署成功,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.6.2.5
ISO/IEC 5338部署

具體風險處置與實施指引

於部署完成後執行運行版本與驗證版本的一致性確認(雜湊比對、行為抽測); 對部署流程末端實施存取控制與變更紀錄,防止驗證後替換; 定期比對線上模型與版本庫的一致性