微調層檔案遭替換
Replacement of Fine-Tuning Layer Files
設計與開發
風險描述
當組織僅對基礎模型進行完整性驗證,未涵蓋微調層檔案時;系統因攻擊者替換微調層後,模型行為在特定情境下被操控,而所有既有的驗證檢查均顯示正常,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010、AML.T0018
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.10.3
ISO/IEC 5338設計與開發
具體風險處置與實施指引
將完整性驗證擴及微調層與 adapter 檔案,與基礎模型同等簽章管控; 實施 adapter 版本管控,載入前逐檔驗證簽章與雜湊; 監控模型行為基準,偏移即觸發完整性複查