S0135RS3-T15-S0135-Z · 完整風險編碼

自主流程陷入無限迴圈

Autonomous Process Entering an Infinite Loop

運行與監控
風險描述

當組織部署自主流程處理例行任務,某次遇到無解的輸入後開始反覆重試時;系統持續運行整個週末,耗盡當月額度並產生高額費用,因無異常告警而未被即時中止,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM06、LLM10
MITRE ATLASAML.T0029
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7

具體風險處置與實施指引

對自主流程設定執行上限(步數、時間、費用),達上限即中止並通知; 部署迴圈偵測,辨識重複失敗的無效重試; 對無解輸入設計失敗路徑(跳過、升級人工),避免無限重試