多系統目標互相衝突
Conflicting Objectives Across Systems
運行與監控
風險描述
當組織部署多個各自最佳化不同指標的系統於同一流程時;系統間持續互相推翻決定,流程停滯且無人察覺原因,直到積壓案件累積才被發現,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0051
NIST AI RMFMEASURE 2.6
ISO/IEC 23894§6.4
OWASP Top 10 for LLMLLM06
MAESTRO
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
於多系統設計階段確保目標一致性,避免各自最佳化的指標互相衝突; 建立衝突解決機制與優先序仲裁,系統間推翻須有終局規則; 監控流程停滯與案件積壓指標,異常即告警