S0084RS4-T16-S0084-Z · 完整風險編碼

群體表徵不公與消抹

Unfair Group Representation and Erasure

驗證與確效
風險描述

當生成系統在描繪特定職業或角色時持續呈現單一形象,其他族群近乎不可見時;系統因此類素材被廣泛使用後,反而強化了社會既有的認知框架,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.10
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFMEASURE 2.11
ISO/IEC TR 24027
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 1

具體風險處置與實施指引

執行表徵公平性審計,量化各族群於生成內容中的可見度與形象分布; 依包容性設計原則調整資料與生成策略,提升多元呈現; 對廣泛流通用途設置表徵多樣性檢核關卡