S0090RS3-T13-S0090-Z · 完整風險編碼

傳輸過程權重遭竄改

Weight Tampering During Transmission

部署
風險描述

當組織自內部儲存拉取模型至推論節點時未做完整性驗證時;系統因傳輸過程中權重遭部分替換,模型行為出現細微偏差,因未超出容忍範圍而長期未被察覺,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.10.3
ISO/IEC 5338部署

具體風險處置與實施指引

對模型分發實施簽章與完整性驗證,推論節點載入前逐檔比對雜湊; 傳輸通道全程加密並限制中途節點; 監控節點間模型行為一致性,偏差即觸發完整性複查