S0043RS3-T08-S0043-Z · 完整風險編碼

自動化資料管線上游污染

Upstream Contamination of Automated Data Pipelines

設計與開發
風險描述

當組織的資料管線自動抓取多個公開來源,未設內容審查時;系統因上游來源遭污染後,有害內容直接進入訓練集,且因管線自動化程度高,問題橫跨多個模型版本,追溯與清理極為困難,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM04
MITRE ATLASAML.T0020
NIST AI 100-2Poisoning
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

對自動化管線的資料來源建立信任評級,低信任來源須經內容審查才可進入訓練集; 於管線設置自動化品質閘門,偵測有害內容與統計異常即攔截; 保存各版本訓練集的來源快照,污染事件可追溯定位受影響版本