解碼設定不當產生退化輸出
Degenerate Output from Improper Decoding Settings
驗證與確效
風險描述
當組織批次生成大量制式文件，因參數設定不當，部分文件內容出現語義漂移時；系統因文件外觀正常而未被抽檢發現，直到接收方反映內容不合理才被察覺，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Confabulation
OWASP Top 10 for LLMLLM05
NIST AI RMFMEASURE 2.5
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
對批次生成任務先以小樣本驗證解碼參數設定，確認品質穩定後才放大批量; 建置輸出品質自動監控，以語義一致性等指標偵測漂移而非僅檢查格式; 對送交外部的批次產出設定抽檢比例並保留攔截機制