S0110RS3-T06-S0110-Z · 完整風險編碼

向量表示的逆推風險

Reconstruction Risk from Vector Representations

設計與開發
風險描述

當組織將內部文件轉為向量後存放於防護較弱的環境,認為向量本身不具敏感性時;系統因攻擊者取得向量資料後成功還原出部分原始內容,組織才發現向量儲存需比照原文等級保護,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM08
NIST AI 600-1Information Security
MITRE ATLASAML.T0024
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

將向量資料比照原始文件的機密等級實施存取控制與加密保護; 評估嵌入逆推風險,必要時採用嵌入擾動或降維等防護技術; 於資料分級政策明訂衍生表示(向量、嵌入)繼承原文等級的原則