S0098RS7-T24-S0098-Z · 完整風險編碼

推論效率低落造成資源浪費

Resource Waste from Inefficient Inference

部署
風險描述

當組織為求開發便利,所有任務一律使用同一套高階模型時;系統因實際檢視後發現多數請求僅需基礎能力即可處理,長期下來累積可觀的非必要運算成本與能源消耗,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

NIST AI 600-1Environmental Impacts
ISO/IEC 42005影響評估流程
ISO/IEC 5338部署
MIT AI Risk RepositoryDomain 6

具體風險處置與實施指引

制定模型選型指引,依任務需求選擇適當規模模型而非一律使用高階模型; 以量化與蒸餾等技術提升推論效率; 監測推論資源使用,識別可降規處理的請求類型