S0073RS3-T09-S0073-Z · 完整風險編碼

實體世界對抗攻擊

Physical-World Adversarial Attack

驗證與確效
風險描述

當攻擊者在受監控環境中放置特製圖案物件,使辨識系統未能偵測到應攔截的目標時;系統運作紀錄顯示一切正常,事件直到造成實際後果才被發現,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

MITRE ATLASAML.T0043
NIST AI 100-2Evasion
EU AI ActArt.15
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

採多感測器融合降低單一視覺通道被欺騙的風險; 對關鍵監控場景執行實體對抗測試,驗證特製圖案下的偵測能力; 部署環境感知交叉驗證,偵測結果與其他訊號矛盾即告警