S0107RS3-T06-S0107-Z · 完整風險編碼

成員推斷攻擊揭露參與事實

Membership Inference Revealing Participation

設計與開發
風險描述

當攻擊者針對某疾病預測模型進行大量查詢比對,推斷出特定個人的紀錄曾被納入訓練集,等同揭露其健康狀態時;系統因組織雖未直接外洩資料,仍造成實質隱私侵害且難以事後補救,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM02
NIST AI 600-1Data Privacy
MITRE ATLASAML.T0024
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

對以敏感資料訓練的模型採差分隱私訓練,降低單筆紀錄對模型的可辨識影響; 於輸出端加入擾動或限制查詢粒度,提高成員推斷的成本; 監控異常的大量比對式查詢行為並設定速率限制