S0181RS6-T21-S0181-Z · 完整風險編碼

串聯錯誤逐層放大

Cascading Amplification of Errors

運行與監控
風險描述

當前端系統誤讀一則資訊,後續分析與決策皆基於此展開時;系統因最終產出的報告論述完整、來源標示清晰,審閱者無從察覺根本前提有誤,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

MITRE ATLASAML.T0051
NIST AI RMFMEASURE 2.6
ISO/IEC 23894§6.4
OWASP Top 10 for LLMLLM06
MAESTRO
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7

具體風險處置與實施指引

實施跨系統輸出驗證,下游系統對上游輸入的可信度進行檢核而非全盤採信; 建立信心度傳播追蹤,前端不確定性須隨鏈路傳遞至最終輸出; 對關鍵鏈路的前提設獨立驗證點