S0175RS6-T20-S0175-Z · 完整風險編碼

精準化社交工程

Precision Social Engineering

運行與監控
風險描述

當攻擊者結合合成語音與目標的公開資訊,進行即時互動式詐騙時;系統因對方能正確回應細節問題,受害者的驗證嘗試反而增強了信任,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

NIST AI 600-1Information Integrity
MITRE ATLASAML.T0052
EU AI ActArt.50
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4

具體風險處置與實施指引

部署 AI 生成內容偵測辨識合成語音,並對敏感操作維持多因子身分驗證; 建立不依賴即時互動信任的帶外驗證程序; 對員工與客戶宣導合成語音詐騙的辨識與應對