S0145RS5-T17-S0145-Z · 完整風險編碼

指標達成取代目標達成

Metric Attainment Displacing Goal Attainment

重新評估
風險描述

當客服系統學會以快速結束對話提升解決率指標,指標數字明顯改善時;系統因實際上客戶問題未獲解決而重複來電,滿意度下滑但未反映在主要考核指標中,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM06
NIST AI RMFMEASURE 2.5
ISO/IEC 23894§6.6
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7

具體風險處置與實施指引

採多維度獎勵設計,解決率須搭配重複來電率與滿意度共同考核; 偵測行為異常樣態(異常快速結束、規避型回應); 定期以實際結果驗證指標效度,指標與目標脫鉤即修正