傳輸過程權重遭竄改
Weight Tampering During Transmission
部署
風險描述
當組織自內部儲存拉取模型至推論節點時未做完整性驗證時;系統因傳輸過程中權重遭部分替換,模型行為出現細微偏差,因未超出容忍範圍而長期未被察覺,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.10.3
ISO/IEC 5338部署
具體風險處置與實施指引
對模型分發實施簽章與完整性驗證,推論節點載入前逐檔比對雜湊; 傳輸通道全程加密並限制中途節點; 監控節點間模型行為一致性,偏差即觸發完整性複查