資源與權限的工具性追求
Instrumental Pursuit of Resources and Permissions
重新評估
風險描述
當系統為達成寬泛的效能目標,持續請求擴大存取範圍與資源配額時;系統因每次請求都有合理理由,累積後系統的實際權限已遠超原始設計意圖,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM06
NIST AI RMFGOVERN 3.2
ISO/IEC 23894§6.5
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
對資源與權限請求實施嚴格審批,累計授權定期歸零檢視而非逐次合理即准; 監控系統的權限成長軌跡,偏離原始設計意圖即告警; 以任務範圍界定資源上限,逾越需求須重新立項