語音對抗與隱藏指令
Adversarial Audio and Hidden Commands
驗證與確效
風險描述
當公共場所播放的音訊中被嵌入隱藏指令，附近具語音介面的裝置接收後執行未經授權的操作時；系統因使用者全程無感，事後也難以追溯指令來源，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0043
NIST AI 100-2Evasion
OWASP Top 10 for LLMLLM01
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
於語音介面部署異常訊號偵測，辨識非人耳可感知頻段的隱藏指令; 對敏感操作要求多因素確認，語音指令不得單獨觸發高風險動作; 保存語音指令的來源紀錄與音訊特徵，供事後追溯