多步推理中途斷裂
Breakdown in Multi-Step Reasoning
驗證與確效
風險描述
當團隊採用模型產出的多步分析結論作為決策依據時；系統因事後複核發現推理過程中某一步驟的假設錯誤，後續推導雖形式完整但結論失真，該決策已造成實質損失，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Confabulation
OWASP Top 10 for LLMLLM09
NIST AI RMFMEASURE 2.5
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
對多步推理輸出建立分步驗證程序，逐步確認假設與中間結論而非僅檢視最終答案; 重要決策要求提供推理依據並由具領域知識者覆核關鍵步驟; 以不同提問方式或多次生成交叉比對，檢測推理鏈的穩定性