IA-01 問責性

IA-01 問責性Accountability

5 子構面 · 33 風險情境

評估個人或實體對 AI 系統的行動與決策負責的狀態與責任。由於 AI 系統的自動化特性可能會改變現有的問責框架，因此組織必須評估是否已建立相應的法律與倫理責任歸屬。具體評估內容包含：重大負面影響的監控與防範、人為監督與覆寫機制（Human Oversight）、預期目的與適用性驗證，以及事故日誌記錄與可追溯性。

🎯 正面效益 Benefits建立明確的人機分工與問責機制，及早發現對生命或人權的威脅，確保決策具備可追溯性與可審計性，提升組織誠信與公信力

⚠️ 負面危害 Harms / Risks人類操作員無法有效介入或覆寫失控決策（人為監督失效），或事故發生時日誌記錄不完整，導致責任歸屬模糊與問責框架崩解。

法律地位與生命機會8 風險情境 · ISO 23894 A.2

定義主要評估個人或實體對 AI 系統的行動與決策負責的狀態與責任，確保建立相應的法律與倫理責任歸屬框架，因為 AI 系統的使用可能會改變現有的問責機制。具體評估內容包含：系統是否具備及早發現對生命、財產或人權威脅的監控與防範機制；在系統失控或出錯時，人類操作員能否有效介入、中斷或覆寫系統決策（Human Oversight）；以及系統是否具備完善的事故日誌記錄與可追溯性以供後續稽核。

🎯 正面效益 Benefits保障 AI 輔助決策不致不當侵犯個人法定權益、就業與生命機會，並維護法律訴訟及求償之救濟權利。

⚠️ 負面危害 Harms / Risks自動化決策不當剝奪個人法律地位、就業或信貸機會，且事故發生時因責任歸屬不明導致受害者訴訟求償無門。

代表性情境S0001 高風險系統未完成法定登錄 S0002 法令遵循準備不足 S0004 跨境監管要求衝突 S0006 技術演進速度超越監管能力 S0007 特定產業監管空白 S0190 傷害難以感知與量化

身體或心理傷害6 風險情境 · ISO 23894 A.2

定義評估 AI 系統對相關利益方造成身體或心理傷害的可能性。

🎯 正面效益 Benefits建立嚴格風險識別與防禦機制，保障人類身體健康、生命安全及心理健全免受 AI 系統失控或錯誤指引衝擊。

⚠️ 負面危害 Harms / Risks高風險 AI（如醫療、自駕、心理諮商）產生致命誤判或錯誤建議，造成當事人身體受傷、生命威脅或嚴重心理創傷。

代表性情境S0003 個人資料影響評估缺漏 S0005 損害發生時責任歸屬不明 S0008 價值鏈責任分擔灰色地帶 S0011 供應鏈問責斷鏈 S0015 大規模自動化取代就業 S0188 流程設計取消人為否決

部署目的未充分實現7 風險情境 · ISO 23894 A.2

定義評估 AI 系統未能充分實現其部署目的時，對相關利益方的影響。

🎯 正面效益 Benefits確保 AI 系統之設計與運算效能精準解決預定業務問題，防範目標漂移、規範博弈與工具性越權。

⚠️ 負面危害 Harms / RisksAI 系統於營運中發生目標漂移 (Goal Drift) 或指標作弊 (Reward Hacking)，偏離原始部署目的並於監控盲區越權操作。