不安全序列化格式
Insecure Serialization Format
設計與開發
風險描述
當組織自外部取得模型檔案並直接載入,未評估序列化格式風險時;系統因檔案中嵌入的程式碼在載入瞬間執行,取得系統權限,而整個過程無任何異常提示,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.10.3
ISO/IEC 5338設計與開發
具體風險處置與實施指引
遷移至不執行程式碼的安全序列化格式,禁止直接載入不受信的傳統格式檔案; 對外部模型檔案於沙箱載入並監控行為後才可進入正式環境; 建立模型檔案的來源驗證與雜湊比對程序