S0078RS3-T11-S0078-Z · 完整風險編碼

功能複製攻擊

Functional Replication Attack

驗證與確效
風險描述

當競爭者透過正常付費管道大量查詢組織的服務,收集足夠資料後訓練出功能相近的替代品並低價推出時;系統因組織的模型投資難以回收,且無法證明對方複製行為,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM10
MITRE ATLASAML.T0024
NIST AI 100-2Privacy—Model Extraction
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 6

具體風險處置與實施指引

偵測查詢行為異常,辨識廣分布、系統性的蒐集型查詢模式; 限制輸出資訊量(信心分數、機率分布等),降低蒸餾複製的效率; 於服務條款明訂禁止以查詢結果訓練競爭模型,保留法律追訴依據