← 返回 8 大影響構面
IA-07 可解釋性Explainability
評估人類理解 AI 系統「如何達到特定輸出」的能力，這直接影響相關利益方對系統的信任度，確保決策邏輯透明，並提供受影響者質疑與申訴的救濟機制。
🎯 正面效益 Benefits提供特徵歸因與透明的決策邏輯，協助業務人員、使用者與監管機構理解輸出依據，建立深層信任。
⚠️ 負面危害 Harms / Risks「黑箱模型」無法提供具體的判斷理由，當產生不公平或錯誤決策時，受影響者無法理解原因且缺乏有效申訴救濟機制。
決策資訊充分性
定義評估是否有足夠資訊讓使用者基於 AI 輸出做出明智決策。
🎯 正面效益 Benefits部署可解釋性 AI 技術 (XAI)，確保黑箱模型之自動化決策能提供具體、可理解且充足的特徵歸因依據。
⚠️ 負面危害 Harms / Risks當客戶就拒貸或拒保等不利決定要求說明時，系統僅能輸出抽象分數，無法提供具體判斷特徵與理由。
代表性情境S0057 深度模型決策難以解釋
生命週期各階段可解釋性
定義評估可解釋性在設計開發、驗證確認和部署各階段的影響。
🎯 正面效益 Benefits於設計、驗證至營運監控全生命週期維持系統邏輯可追溯性，記錄輸入、參數與中間推理過程。
⚠️ 負面危害 Harms / Risks深度學習黑箱特性導致事故發生時無法還原推導歷程，且解釋工具本身產生誤導或不穩定，阻礙根因排查。
代表性情境S0018 創意產業經濟結構衝擊
信任與質疑能力
定義評估可解釋性對使用者信任 AI 系統及質疑 AI 輸出能力的影響。
🎯 正面效益 Benefits提供當事人與稽核方透明的決策說明，並保障受影響個體能夠理解原因、提出申訴與質疑結果之救濟權利。
⚠️ 負面危害 Harms / Risks受影響者面對自動化判定無法取得個案解釋，且組織未設實質申訴與人工覆核管道，剝奪當事人權益。
代表性情境S0059 黑箱決策阻礙問責追溯