← 返回 8 大影響構面
IA-02 透明度Transparency
確保有關 AI 系統的活動、決策、能力與限制,都能夠以全面、清楚且易懂的方式向所有相關利益方揭露 。具體評估內容包含:AI 互動與生成的強制揭露(防範深偽技術) 、系統能力與限制的傳達(避免自動化偏見) ,以及訓練數據來源與模型基本架構的揭露 。
🎯 正面效益 Benefits主動揭露 AI 身份、系統能力與運算限制,建立使用者合理預期,引導負責任的協作並提升公眾信任。
⚠️ 負面危害 Harms / Risks未標示 AI 身份致使用者誤認為真人而洩露敏感個資,或未揭露系統限制致使用者產生「自動化偏見」而過度依賴盲目決策。
系統功能資訊不足
定義評估相關利益方是否能取得足夠資訊以了解 AI 系統的功能、約束和限制。
🎯 正面效益 Benefits全面揭露 AI 系統之能力邊界、適用情境、限制條件與已知弱項,引導使用者合理預期並防止自動化偏見。
⚠️ 負面危害 Harms / Risks供應商或開發團隊未充分傳達系統限制與不適用情境,導致使用者盲目採信或將 AI 用於未經測試之危險環境中。
代表性情境S0013 供應商不透明阻礙風險評估S0014 第三方服務供應商風險S0058 解釋工具產生誤導S0060 各方知識落差導致盲目決策S0101 透明度不足導致監管失效S0102 版本變更未告知使用者S0103 來源標示不透明
AI 互動未揭露
定義評估相關利益方是否知道自己正在與 AI 系統互動。
🎯 正面效益 Benefits強制標示 AI 互動身份與生成內容來源,防範擬人化欺騙、深偽 (Deepfake) 誤導及商業欺詐行為。
⚠️ 負面危害 Harms / Risks客服或對話系統以擬人化方式互動而未揭露 AI 身份,導致使用者在誤認情況下洩漏極敏感資訊或遭深偽內容詐騙。
代表性情境S0012 未規劃 AI 使用揭露機制S0152 生成內容強化刻板印象S0165 擬人化導致不當信任S0200 真偽界線模糊與認知混亂S0201 內容同質化與多樣性衰退