為維持一致而延伸錯誤
Errors Extended to Maintain Consistency
驗證與確效
風險描述
當系統在分析報告的開頭誤判了一項基礎數據,後續章節全部基於此展開時;系統因整份報告論證嚴謹、結構完整,審閱者未察覺根本前提有誤,直到執行階段才發現全案基礎錯誤,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Confabulation
OWASP Top 10 for LLMLLM09
NIST AI RMFMEASURE 2.5
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
要求分析報告的基礎數據與前提假設獨立列示,審閱時先驗證前提再看推導; 對關鍵報告執行分步驟事實驗證,基礎數據須對照原始來源確認; 以推理鏈檢查機制辨識「形式完整但前提未驗證」的輸出型態