S0076RS3-T09-S0076-Z · 完整風險編碼

跨模型遷移攻擊

Cross-Model Transfer Attack

驗證與確效
風險描述

當組織以嚴格的存取控制保護模型,認為外部無法研究其行為時;系統因攻擊者以公開的類似模型製作對抗樣本,直接套用於目標系統即成功,既有的存取防護未發揮作用,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

MITRE ATLASAML.T0043
NIST AI 100-2Evasion
OWASP Top 10 for LLMLLM01
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

認知存取控制無法防禦遷移攻擊,防禦重心移至模型本身的對抗韌性; 採模型差異化策略(架構、訓練資料、隨機化),降低與公開模型的行為相似度; 以集成防禦與公開替代模型自測遷移攻擊的有效性