對話內容跨使用者外洩
Conversation Content Leaking Across Users
運行與監控
風險描述
當企業內部知識問答系統的權限隔離設計不完善，某部門使用者的查詢結果中出現其他部門的機密內容時；系統因組織發現後須全面檢視存取控制，期間系統停用，且已外洩內容難以回收，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM02
NIST AI 600-1Information Security
MITRE ATLASAML.T0024
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
於檢索與生成全鏈路實作與來源系統一致的權限控制，查詢結果依使用者權限過濾; 嚴格隔離對話上下文與 session，禁止跨使用者、跨部門的上下文殘留; 上線前以跨權限測試驗證隔離有效性，並持續稽核存取紀錄