同溫層效應與觀點極端化
Echo Chamber Effects and Polarization
持續確效
風險描述
當使用者接收到的內容逐步偏向單一觀點且日益極端時;系統因使用者主觀上認為自己接觸的是完整資訊,實際上已長期未見到不同立場的內容,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.50
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338持續確效
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
於推薦機制導入多元性設計,主動納入不同立場內容避免單一化; 部署極端化偵測,辨識內容逐步偏向與收斂的樣態; 提供使用者觀點多元性的可見度與調整選項