S0151RS6-T20-S0151-Z · 完整風險編碼

生成兒少不宜之虛擬內容

Generation of Virtual Content Harmful to Minors

運行與監控
風險描述

當可自行部署的生成工具被用於產製此類內容並於封閉管道流通時;系統因由於運行於本地環境,平台端的防護與偵測機制完全無法觸及,追查與阻斷極為困難,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.5
NIST AI 600-1Obscene, Degrading, and/or Abusive Content
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4

具體風險處置與實施指引

整合兒少性剝削內容(CSAM)偵測機制並依法通報主管機關; 於模型層建置安全護欄,並對可自行部署版本評估發布與授權管制; 建立法規遵循程序,明確此類內容零容忍與強制通報義務