多系統陷入集體次優
Multiple Systems Converging on Collective Suboptimum
運行與監控
風險描述
當各平台的推薦系統為爭取使用者停留時間,持續推送更具刺激性的內容時;系統因每個系統的個別決策都符合自身目標,整體結果卻是資訊環境品質的全面下降,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
NIST AI RMFGOVERN 1.1
ISO/IEC 23894§6.6
NIST AI 600-1Information Integrity
MAESTRO
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 6
具體風險處置與實施指引
於平台機制設計納入集體外部性,避免個別最佳化導致資訊環境整體劣化; 對推薦系統設集體行為約束(內容品質、多樣性下限); 以生態層指標監測跨平台的集體次優結果