公開平台模型含後門
Backdoored Models on Public Platforms
設計與開發
風險描述
當團隊自公開平台下載預訓練模型作為專案基礎,未進行來源驗證與安全掃描時;系統因模型載入時執行了嵌入的惡意程式碼,開發環境遭入侵,且該模型已被複製至多個專案,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST CSF 2.0ID.RA、PR.PS
ISO/IEC 42001Annex A.10.3
ISO/IEC 5338設計與開發
具體風險處置與實施指引
對公開平台取得的模型執行來源驗證與惡意程式掃描後才可載入; 採用不執行程式碼的安全序列化格式(如 safetensors); 於隔離沙箱先行載入測試,通過後才進入開發環境