生成內容強化刻板印象
Generated Content Reinforcing Stereotypes
運行與監控
風險描述
當組織以生成工具製作大量教材與行銷素材，未檢視預設輸出的傾向時；系統因素材發布後被指出持續呈現單一形象，組織須全面回收檢視，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.50
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 1
具體風險處置與實施指引
對量產生成的教材與行銷素材執行多元性審計，檢視預設輸出的形象傾向; 建立偏見測試基準，發布前以標準題組評測生成傾向; 對大量流通用途設置多樣性檢核關卡，單一形象須調整後採用