標籤竄改攻擊
Label Tampering Attack
設計與開發
風險描述
當委外資料標註管線遭受惡意標籤竄改 (Data Poisoning) 攻擊時；系統因上線前驗證僅檢測整體統計準確率，而缺乏標籤完整性與金樣本審計，於特定邊界類別持續發生系統性誤判，除影響決策正確性外，亦造成安全防線失守與重訓修復之營運代價。
框架對照
OWASP Top 10 for LLMLLM04
MITRE ATLASAML.T0020
NIST AI 100-2Poisoning
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
對委外標註資料執行完整性驗證，以黃金樣本混入與交叉標註稽核標籤品質; 建立資料來源追溯與標記制度，可定位每批標註的提供者與版本; 驗證流程納入分類別與邊界案例檢視，不以整體準確率為唯一指標