S0055RS6-T21-S0055-Z · 完整風險編碼

模型同質化造成系統性風險

Systemic Risk from Model Homogeneity

設計與開發
風險描述

當市場中多數參與者採用同一基礎模型建構決策系統時;系統因當該模型在特定情境下判斷失準時,所有系統同步做出相同反應,引發連鎖效應,市場失去原本由判斷多樣性提供的穩定機制,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

MITRE ATLASAML.T0051
NIST AI RMFMEASURE 2.6
ISO/IEC 23894§6.4
NIST AI 600-1Harmful Bias and Homogenization
MAESTRO
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 7

具體風險處置與實施指引

於系統選型納入模型多樣化要求,避免市場關鍵決策集中於單一基礎模型; 建立系統性風險監控,追蹤同源模型的市場占比與同步反應風險; 對高影響決策保留異質判斷來源,維持多樣性提供的穩定機制