S0051RS3-T13-S0051-Z · 完整風險編碼

不安全序列化格式

Insecure Serialization Format

設計與開發
風險描述

當組織自外部取得模型檔案並直接載入,未評估序列化格式風險時;系統因檔案中嵌入的程式碼在載入瞬間執行,取得系統權限,而整個過程無任何異常提示,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.10.3
ISO/IEC 5338設計與開發

具體風險處置與實施指引

遷移至不執行程式碼的安全序列化格式,禁止直接載入不受信的傳統格式檔案; 對外部模型檔案於沙箱載入並監控行為後才可進入正式環境; 建立模型檔案的來源驗證與雜湊比對程序