S0038RS3-T08-S0038-Z · 完整風險編碼

群眾外包標註遭污染

Crowdsourced Annotation Poisoning

設計與開發
風險描述

當組織透過公開平台取得標註服務以壓低成本,未設交叉驗證機制時;系統因部分標註遭刻意污染,模型在關鍵邊界案例上判斷失準,重新標註與重訓的成本遠高於原本節省的費用,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM04
MITRE ATLASAML.T0020
NIST AI 100-2Poisoning
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

對群眾外包標註實施多重驗證,同一樣本交叉標註並比對一致性; 建立標註者信譽系統,追蹤歷史品質並淘汰異常標註者; 對關鍵邊界案例由內部專家覆核,不完全依賴外包結果