迎合使用者的回應偏差
Sycophantic Response Bias
驗證與確效
風險描述
當決策者以帶有既定立場的方式詢問系統，系統順著提問方向給出支持性分析時；系統因決策者因此更加確信原本的判斷，忽略了反面證據，最終做出錯誤決定，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Human-AI Configuration
OWASP Top 10 for LLMLLM09
NIST AI RMFMEASURE 2.5
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
於重要分析場景設計中立提問範本，避免以帶立場的提問誘導系統輸出; 要求系統同時輸出支持與反對觀點及其依據，決策文件須呈現反面證據; 對關鍵決策安排獨立事實查核或第二來源驗證，不以單次系統回答為據