S0092RS3-T13-S0092-Z · 完整風險編碼

更新推送通道遭劫持

Hijacking of the Update Channel

部署
風險描述

當組織的模型設定自動更新以確保效能時;系統因更新通道遭入侵後,惡意版本於夜間自動部署至所有節點,隔日才因行為異常被察覺,期間已處理大量正式請求,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.6.2.5
ISO/IEC 5338部署

具體風險處置與實施指引

對自動更新實施簽章驗證,未通過驗證的版本不得部署; 採分階段部署(金絲雀→全量),異常即自動回滾; 對更新通道實施存取控制與監控,入侵即告警