串聯錯誤逐層放大
Cascading Amplification of Errors
運行與監控
風險描述
當前端系統誤讀一則資訊,後續分析與決策皆基於此展開時;系統因最終產出的報告論述完整、來源標示清晰,審閱者無從察覺根本前提有誤,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
MITRE ATLASAML.T0051
NIST AI RMFMEASURE 2.6
ISO/IEC 23894§6.4
OWASP Top 10 for LLMLLM06
MAESTRO
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
實施跨系統輸出驗證,下游系統對上游輸入的可信度進行檢核而非全盤採信; 建立信心度傳播追蹤,前端不確定性須隨鏈路傳遞至最終輸出; 對關鍵鏈路的前提設獨立驗證點