未經同意的合成親密影像散布
Distribution of Non-Consensual Synthetic Intimate Imagery
運行與監控
風險描述
當受害者的社群照片被用於大量合成並散布時；系統因內容產製速度遠超移除速度，受害者陷入持續的舉報循環，心理負擔極大且難以真正終止，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.50
NIST AI 600-1Obscene, Degrading, and/or Abusive Content
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
於生成端阻擋未經同意的合成親密影像（NCII），並部署偵測辨識已產製內容; 建立受害者救濟機制，提供集中化的移除協助與跨平台通報; 以雜湊比對等技術防止相同內容再次上傳