AI系統影響
ISO/IEC 42005依 ISO/IEC 42005 影響評估框架:8 大影響構面 × 25 子構面,對接知識庫 208 項風險情境。點選構面進入子構面內容。
5 子構面01問責性Accountability33→評估個人或實體對 AI 系統的行動與決策負責的狀態與責任 。由於 AI 系統的自動化特性可能會改變現有的問責框架,因此組織必須評估是否已建立相應的法律與倫理責任歸屬 。具體評估內容包含:重大負面影響的監控與防範 、人為監督與覆寫機制(Human Oversight) 、預期目的與適用性驗證 ,以及事故日誌記錄與可追溯性 。2 子構面02透明度Transparency12→確保有關 AI 系統的活動、決策、能力與限制,都能夠以全面、清楚且易懂的方式向所有相關利益方揭露 。具體評估內容包含:AI 互動與生成的強制揭露(防範深偽技術) 、系統能力與限制的傳達(避免自動化偏見) ,以及訓練數據來源與模型基本架構的揭露 。4 子構面03公平性與反歧視Fairness & Non-discrimination19→評估 AI 系統輸出是否會不公平地偏袒或歧視特定的個人、群體或社會部分,避免因演算法偏見、不平等待遇或文化隔閡造成受保護族群與弱勢群體之權益損害。3 子構面04隱私Privacy15→確保在 AI 系統開發、輸入或輸出過程中,個人可識別資訊(PII)的收集與使用受到妥善控制、保密且不被濫用,防止未經授權的披露、過度監控與個資外洩。3 子構面05可靠性Reliability34→評估 AI 系統能否在規定的要求下正確執行,並表現出一致的預期行為和結果,特別是要預防資料漂移、錯誤率過高與不穩定輸出導致效能下降。3 子構面06安保與安全性(Safety and Security )78→確保 AI 系統在規定條件下運作時,不會對人類的生命、健康、福祉、財產或環境造成傷害與實體威脅,同時防範系統遭受對抗性攻擊、數據中毒與模型竊取等惡意威脅。3 子構面07可解釋性Explainability3→評估人類理解 AI 系統「如何達到特定輸出」的能力,這直接影響相關利益方對系統的信任度,確保決策邏輯透明,並提供受影響者質疑與申訴的救濟機制。2 子構面08環境影響Environmental Impact14→評估 AI 系統從開發、訓練到部署的整個生命週期對自然環境的生態與資源影響,包含直接的運算資源消耗、溫室氣體碳排放與冷卻水資源消耗,以及商業應用帶來的間接行為影響。