節點故障引發連鎖崩潰
Node Failure Triggering Cascading Collapse
運行與監控
風險描述
當高峰時段單一節點因記憶體不足退出,其流量轉移後導致鄰近節點相繼超載時;系統因連鎖效應在數分鐘內擴散至全叢集,服務完全中斷,重啟後又因積壓流量再次崩潰,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM10
MITRE ATLASAML.T0029
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
實施斷路器模式,節點過載即快速失敗而非連鎖轉嫁; 設計優雅降級(排隊、簡化回應),高峰期維持基本服務; 以尖峰情境進行容量規劃與壓力測試,驗證叢集的失效行為