模型同質化造成系統性風險
Systemic Risk from Model Homogeneity
設計與開發
風險描述
當市場中多數參與者採用同一基礎模型建構決策系統時;系統因當該模型在特定情境下判斷失準時,所有系統同步做出相同反應,引發連鎖效應,市場失去原本由判斷多樣性提供的穩定機制,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0051
NIST AI RMFMEASURE 2.6
ISO/IEC 23894§6.4
NIST AI 600-1Harmful Bias and Homogenization
MAESTRO
ISO/IEC 5338設計與開發
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
於系統選型納入模型多樣化要求,避免市場關鍵決策集中於單一基礎模型; 建立系統性風險監控,追蹤同源模型的市場占比與同步反應風險; 對高影響決策保留異質判斷來源,維持多樣性提供的穩定機制