S0187RS6-T22-S0187-Z · 完整風險編碼

推薦機制影響選擇自主

Recommendation Mechanisms Affecting Autonomy of Choice

運行與監控
風險描述

當使用者持續接收到經過篩選的選項,誤以為已看過完整市場時;系統因實際上部分更符合其需求的選項從未出現在推薦中,使用者無從得知自己的選擇範圍已被限縮,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.50
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 5

具體風險處置與實施指引

提升推薦透明度,讓使用者知悉選項經過篩選及其依據; 提供使用者控制權,可調整或關閉個人化並瀏覽完整選項; 監測推薦多元性指標,避免選擇範圍被過度限縮