自主流程陷入無限迴圈
Autonomous Process Entering an Infinite Loop
運行與監控
風險描述
當組織部署自主流程處理例行任務,某次遇到無解的輸入後開始反覆重試時;系統持續運行整個週末,耗盡當月額度並產生高額費用,因無異常告警而未被即時中止,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM06、LLM10
MITRE ATLASAML.T0029
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
對自主流程設定執行上限(步數、時間、費用),達上限即中止並通知; 部署迴圈偵測,辨識重複失敗的無效重試; 對無解輸入設計失敗路徑(跳過、升級人工),避免無限重試