生成不存在的事實內容
Generation of Non-Existent Factual Content
驗證與確效
風險描述
當專業人員以生成工具協助撰寫文件，其中包含數則虛構的引用與案例時；系統因文件送出後被發現引用不存在，除文件失效外，撰寫者的專業判斷能力亦受質疑，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Confabulation
OWASP Top 10 for LLMLLM09
NIST AI RMFMEASURE 2.5
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 3
具體風險處置與實施指引
對生成內容中的引用與案例建置事實查核機制，以檢索比對確認來源真實存在; 將專業文件的生成輸出納入人工審核迴路，引用未經查證者不得送出; 於輸出標示信心度與來源狀態，提示使用者辨識推論與事實