查詢蒸餾竊取能力
Capability Theft Through Query Distillation
運行與監控
風險描述
當組織發現某帳號長期高頻查詢且查詢內容分佈異常廣泛時;系統因調查後研判為系統性蒐集行為,但因所有查詢均屬正常付費使用,組織難以直接阻止或舉證,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM10
MITRE ATLASAML.T0024
NIST AI 100-2Privacy—Model Extraction
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 6
具體風險處置與實施指引
設定分級速率限制與用量配額,抑制長期高頻的大規模蒐集; 偵測查詢分佈異常,識別以覆蓋知識面為目的的系統性查詢; 於合約與服務條款明訂禁止蒸餾利用,違反者終止服務並究責