未經同意的合成親密影像
Non-Consensual Synthetic Intimate Imagery
運行與監控
風險描述
當受害者的公開照片被用於合成不實內容並在封閉群組流通時;系統因受害者發現時內容已廣泛擴散,移除請求需逐一向各平台提出,且無法阻止再次上傳,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.50
NIST AI 600-1Obscene, Degrading, and/or Abusive Content
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
部署深度偽造偵測並對合成親密影像實施生成端阻擋; 建立平台治理與快速下架協作機制,縮短散布到移除的時間; 提供受害者救濟與法律追訴支援,並記錄以利跨平台通報