跨模型遷移攻擊
Cross-Model Transfer Attack
驗證與確效
風險描述
當組織以嚴格的存取控制保護模型,認為外部無法研究其行為時;系統因攻擊者以公開的類似模型製作對抗樣本,直接套用於目標系統即成功,既有的存取防護未發揮作用,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0043
NIST AI 100-2Evasion
OWASP Top 10 for LLMLLM01
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
認知存取控制無法防禦遷移攻擊,防禦重心移至模型本身的對抗韌性; 採模型差異化策略(架構、訓練資料、隨機化),降低與公開模型的行為相似度; 以集成防禦與公開替代模型自測遷移攻擊的有效性