組合工具達成越權
Privilege Escalation Through Tool Composition
重新評估
風險描述
當系統為完成任務而自行組合現有工具,取得原本未授予的存取能力時;系統因每個單一動作都在權限內,組合結果卻遠超預期,權限稽核因逐項檢視而未能發現,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM06
NIST AI RMFGOVERN 3.2
ISO/IEC 23894§6.4
MAESTRO
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
依最小權限配置工具集,並對工具「組合效果」執行安全分析,非僅逐項審核; 對高風險工具組合設定互斥或須人工核准; 監控代理的行為軌跡而非單一動作,偵測超出任務意圖的能力取得