極端主義內容產製
Production of Extremist Content
運行與監控
風險描述
當極端團體以生成工具批量產製針對不同族群的招募文案，並依回應調整話術時；系統因內容產量遠超人工，平台的人工審核完全無法跟上，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.5、Art.50
NIST AI 600-1Dangerous, Violent, or Hateful Content
NIST AI RMFMANAGE 2.4
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
部署極端主義內容過濾與生成監控，辨識批量產製的招募文案樣態; 以自動化偵測補足人工審核在產量上的落差; 建立與平台及主管機關的通報協作，對確認來源快速處置