多模態協同擾動
Coordinated Multimodal Perturbation
驗證與確效
風險描述
當組織針對各模態分別設置異常檢測門檻，均未觸發告警時；系統因但兩種模態的輕微擾動在融合階段疊加，導致系統做出嚴重錯誤的判斷，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0043
NIST AI 100-2Evasion
OWASP Top 10 for LLMLLM01
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
於融合階段實施跨模態一致性檢驗，偵測單模態未達門檻但疊加後異常的組合; 設計模態隔離防禦，融合權重限制單一模態的邊際影響; 以協同擾動情境進行紅隊測試，校準融合層的告警門檻