← 返回 8 大影響構面
IA-04 隱私Privacy
確保在 AI 系統開發、輸入或輸出過程中，個人可識別資訊（PII）的收集與使用受到妥善控制、保密且不被濫用，防止未經授權的披露、過度監控與個資外洩。
🎯 正面效益 Benefits導入差分隱私與去識別化技術，在保護個資的前提下安全共享數據與進行機器學習創新，符合隱私法規。
⚠️ 負面危害 Harms / Risks發生未經授權的個資收集、過度監控，或攻擊者透過模型記憶化、成員/屬性推斷與向量逆推導致敏感 PII 外洩。
PII 收集影響
定義評估為 AI 系統開發或使用（如模型訓練）而收集 PII 對相關利益方的影響。
🎯 正面效益 Benefits貫徹資料最小化與合法授權原則，防止未經同意、超越原始目的或隱含式過度蒐集個人可識別資訊 (PII)。
⚠️ 負面危害 Harms / Risks未經另行同意即使用既有服務資料訓練新模型，或透過背景元件過度蒐集使用者行為數據與機密文件。
代表性情境S0032 未取得同意即以個資訓練S0034 蒐集目的外的二次利用S0035 隱含式蒐集與同意不透明S0112 互動資料過度蒐集與保留S0114 提示內容無意洩露機密S0115 跨境傳輸違反在地化要求
隱私洩露影響
定義評估因 PII 處理相關的隱私洩露而對相關利益方造成的影響。
🎯 正面效益 Benefits採用差分隱私 (DP) 與去識別化技術，阻斷模型記憶化、成員/屬性推斷攻擊、向量逆推與對話內容外洩。
⚠️ 負面危害 Harms / Risks攻擊者透過特定提示誘出模型記憶之真實個資，或從向量資料庫、共享記憶體及對話紀錄中逆向還原敏感隱私。
代表性情境S0106 模型記憶化導致資料外洩S0107 成員推斷攻擊揭露參與事實S0108 屬性推斷揭露未公開特徵S0109 對話內容跨使用者外洩S0110 向量表示的逆推風險S0111 零散資訊關聯推斷身分S0113 模型逆向重建訓練資料
PII 處理義務與權利行使
定義評估組織對 PII 處理義務的履行，包括公平性、偏見風險、準確性、自動化決策、資訊取得和權利行使。
🎯 正面效益 Benefits健全資料主體權利回應機制，保障當事人依法行使查閱、更正、撤回同意及模型參數層級之遺忘權。
⚠️ 負面危害 Harms / Risks資料保存期限屆滿後原始資料已刪除，但既有模型仍反映該批個資特徵，當事人要求刪除時組織缺乏技術方案。