後門觸發樣本植入
Backdoor Trigger Sample Implantation
設計與開發
風險描述
當模型通過所有例行驗收測試後上線時；系統因攻擊者以事先埋入的觸發模式操作系統，使其在關鍵判斷上輸出預定結果，除組織的測試流程無法涵蓋此類特定觸發，問題長期潛伏外，亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM04
MITRE ATLASAML.T0020
NIST AI 100-2Poisoning
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
對訓練資料執行完整性驗證與異常樣本偵測，識別可疑的觸發模式植入; 於上線前執行模型後門掃描與觸發搜尋測試，不以例行驗收為足; 對關鍵判斷部署運行期異常行為監測，偵測與正常分布不符的輸出模式