← 返回 8 大影響構面
IA-05 可靠性Reliability
評估 AI 系統能否在規定的要求下正確執行，並表現出一致的預期行為和結果，特別是要預防資料漂移、錯誤率過高與不穩定輸出導致效能下降。
🎯 正面效益 Benefits系統能於規定條件下持續、穩定地提供高準確度的預期結果，保障關鍵業務連續性不中斷。
⚠️ 負面危害 Harms / Risks模型產生事實性幻覺（Confabulation）、多步推理斷裂或數據漂移（Data Drift），導致系統效能急遽退化或輸出不可靠決。
故障與補救計畫
定義評估 AI 系統可預測的或未知的故障是否有補救計畫，關鍵服務的 AI 系統能否在故障時維持運作。
🎯 正面效益 Benefits建立系統備援、降級運作與故障復原劇本，確保在預期外異常或極端情境下維護服務連續性與可信度。
⚠️ 負面危害 Harms / Risks第三方 API 當機或多智能體系統陷入死結，因無備援方案與降級模式，導致企業核心業務全面停擺與連鎖崩潰。
代表性情境S0062 多步推理中途斷裂S0065 解碼設定不當產生退化輸出S0068 長文本中段內容失真S0069 為維持一致而延伸錯誤S0135 自主流程陷入無限迴圈S0136 節點故障引發連鎖崩潰S0138 單一供應商依賴形成單點故障S0172 學術造假自動化S0173 大規模自動化監控S0179 多系統目標互相衝突S0180 系統間資訊不同步S0181 串聯錯誤逐層放大
監控、回饋與評估
定義評估是否有足夠的監控機制確保數據集時效性和 AI 系統輸出可靠性。
🎯 正面效益 Benefits實施全生命週期運作監控與雙向回饋機制，及時捕捉事實性幻覺、推理鏈斷裂與自信心校準失準。
⚠️ 負面危害 Harms / RisksLLM 自信地生成虛構法條判例或瑕疵程式碼（幻覺），且信心分數校準失準，導致自動化流程放行錯誤決策。
代表性情境S0056 模型驗證機制缺失S0061 生成不存在的事實內容S0063 生成程式碼含安全缺陷S0064 信心度校準失準S0066 迎合使用者的回應偏差S0067 倫理判斷失當S0159 專業人員過度信賴系統判斷S0160 風險評估工具的過度依賴S0161 開發者未審查即採用生成程式碼S0162 學習過程過度依賴工具S0167 自動化偏誤導致忽略異常
效能退化與數據漂移
定義評估因系統更新、數據漂移或概念漂移導致效能退化時的影響。
🎯 正面效益 Benefits持續動態檢測輸入資料漂移 (Data Drift) 與概念漂移 (Concept Drift)，建立定期的模型重訓與校準流程。
⚠️ 負面危害 Harms / Risks外部環境發生結構性改變後，模型預測準確率逐步下滑，或因回饋迴圈 (Feedback Loop) 導致偏誤呈指數級自我放大。