S0041RS3-T08-S0041-Z · 完整風險編碼

分散式訓練梯度污染

Gradient Poisoning in Distributed Training

設計與開發
風險描述

當組織的訓練叢集中一個節點遭入侵,持續注入偏移梯度時;系統因訓練完成的模型在特定情境下表現異常,組織耗費大量時間排查資料與程式碼,才發現問題出在訓練基礎設施本身,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM04
MITRE ATLASAML.T0020
NIST AI 100-2Poisoning
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

於分散式訓練採用拜占庭容錯聚合演算法,單一節點污染不致左右整體梯度; 部署梯度異常偵測,持續監控各節點貢獻的統計特徵; 對訓練基礎設施實施節點層級的安全防護與入侵偵測