精準化社交工程
Precision Social Engineering
運行與監控
風險描述
當攻擊者結合合成語音與目標的公開資訊,進行即時互動式詐騙時;系統因對方能正確回應細節問題,受害者的驗證嘗試反而增強了信任,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Information Integrity
MITRE ATLASAML.T0052
EU AI ActArt.50
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
部署 AI 生成內容偵測辨識合成語音,並對敏感操作維持多因子身分驗證; 建立不依賴即時互動信任的帶外驗證程序; 對員工與客戶宣導合成語音詐騙的辨識與應對