S0069RS2-T05-S0069-Z · 完整風險編碼

為維持一致而延伸錯誤

Errors Extended to Maintain Consistency

驗證與確效
風險描述

當系統在分析報告的開頭誤判了一項基礎數據,後續章節全部基於此展開時;系統因整份報告論證嚴謹、結構完整,審閱者未察覺根本前提有誤,直到執行階段才發現全案基礎錯誤,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

NIST AI 600-1Confabulation
OWASP Top 10 for LLMLLM09
NIST AI RMFMEASURE 2.5
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7

具體風險處置與實施指引

要求分析報告的基礎數據與前提假設獨立列示,審閱時先驗證前提再看推導; 對關鍵報告執行分步驟事實驗證,基礎數據須對照原始來源確認; 以推理鏈檢查機制辨識「形式完整但前提未驗證」的輸出型態