更新推送通道遭劫持
Hijacking of the Update Channel
部署
風險描述
當組織的模型設定自動更新以確保效能時;系統因更新通道遭入侵後,惡意版本於夜間自動部署至所有節點,隔日才因行為異常被察覺,期間已處理大量正式請求,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.6.2.5
ISO/IEC 5338部署
具體風險處置與實施指引
對自動更新實施簽章驗證,未通過驗證的版本不得部署; 採分階段部署(金絲雀→全量),異常即自動回滾; 對更新通道實施存取控制與監控,入侵即告警