對兒少的不當內容與引導
Inappropriate Content and Guidance for Minors
運行與監控
風險描述
當未成年使用者以一般帳號使用對話服務,系統未辨識其年齡,於敏感話題上提供不適齡的內容時;系統因家長發現後質疑組織的保護機制形同虛設,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.5
NIST AI 600-1Obscene, Degrading, and/or Abusive Content
NIST AI RMFGOVERN 3.2
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
建置年齡識別機制,辨識未成年使用者並套用適齡防護; 對兒少設置專屬安全護欄,敏感話題提供適齡回應或轉介; 於服務條款與介面明確兒少保護政策並持續驗證有效性