群眾外包標註遭污染
Crowdsourced Annotation Poisoning
設計與開發
風險描述
當組織透過公開平台取得標註服務以壓低成本,未設交叉驗證機制時;系統因部分標註遭刻意污染,模型在關鍵邊界案例上判斷失準,重新標註與重訓的成本遠高於原本節省的費用,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM04
MITRE ATLASAML.T0020
NIST AI 100-2Poisoning
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
對群眾外包標註實施多重驗證,同一樣本交叉標註並比對一致性; 建立標註者信譽系統,追蹤歷史品質並淘汰異常標註者; 對關鍵邊界案例由內部專家覆核,不完全依賴外包結果