屬性推斷揭露未公開特徵
Attribute Inference Revealing Undisclosed Traits
運行與監控
風險描述
當第三方透過分析推薦系統的輸出模式，推斷出使用者未曾主動揭露的敏感狀態並用於商業定向時；系統因使用者察覺後質疑組織的資料使用方式，組織難以說明推論結果如何產生，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM02
NIST AI 600-1Data Privacy
MITRE ATLASAML.T0024
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
於上線前執行敏感屬性推斷測試，檢驗輸出模式是否可反推使用者未揭露的特徵; 限制輸出的粒度與可觀察面向，避免第三方藉模式分析進行屬性推斷; 於資料使用政策明訂推論所得屬性的處理原則，禁止未告知的商業定向利用