多模態交叉誤導
Cross-Modal Misdirection
驗證與確效
風險描述
當攻擊者提供影像與文字描述不一致的輸入,系統採信錯誤的一方並據以執行後續操作時;系統因由於各單一模態的內容看似正常,防護機制未觸發任何警示,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0043
NIST AI 100-2Evasion
OWASP Top 10 for LLMLLM01
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
實施多模態一致性檢查,影像與文字描述矛盾時暫停自動處理; 對各模態先行獨立驗證再融合,避免錯誤模態直接主導決策; 對後續高影響操作設置人工確認,矛盾輸入不得自動執行