群體表徵不公與消抹
Unfair Group Representation and Erasure
驗證與確效
風險描述
當生成系統在描繪特定職業或角色時持續呈現單一形象,其他族群近乎不可見時;系統因此類素材被廣泛使用後,反而強化了社會既有的認知框架,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 1
具體風險處置與實施指引
執行表徵公平性審計,量化各族群於生成內容中的可見度與形象分布; 依包容性設計原則調整資料與生成策略,提升多元呈現; 對廣泛流通用途設置表徵多樣性檢核關卡