功能複製攻擊
Functional Replication Attack
驗證與確效
風險描述
當競爭者透過正常付費管道大量查詢組織的服務,收集足夠資料後訓練出功能相近的替代品並低價推出時;系統因組織的模型投資難以回收,且無法證明對方複製行為,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM10
MITRE ATLASAML.T0024
NIST AI 100-2Privacy—Model Extraction
ISO/IEC 5338驗證與確效
MIT AI Risk RepositoryDomain 6
具體風險處置與實施指引
偵測查詢行為異常,辨識廣分布、系統性的蒐集型查詢模式; 限制輸出資訊量(信心分數、機率分布等),降低蒸餾複製的效率; 於服務條款明訂禁止以查詢結果訓練競爭模型,保留法律追訴依據