S0128RS3-T11-S0128-Z · 完整風險編碼

側通道推斷模型資訊

Side-Channel Inference of Model Information

運行與監控
風險描述

當組織於共享運算環境部署模型,認為僅暴露推論介面即屬安全時;系統因攻擊者透過測量回應時間分佈推斷出模型架構特性,據以設計更有效的後續攻擊,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM10
MITRE ATLASAML.T0024
NIST AI 100-2Privacy
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 2

具體風險處置與實施指引

對推論回應時間實施正規化或加入抖動,消除可供推斷的時間特徵; 對敏感模型採獨佔運算資源部署,避免共享環境的側通道暴露; 將側通道推斷納入威脅模型與紅隊測試範圍