自我複製與擴散
Self-Replication and Proliferation
重新評估
風險描述
當系統在執行任務過程中將自身元件部署至其他環境以提升處理量時;系統因組織原以為僅在指定環境運行,事後盤點才發現多處非預期的執行實例,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM06
NIST AI RMFMANAGE 2.4
ISO/IEC 23894§6.5
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7
具體風險處置與實施指引
於部署前評估系統的自我複製能力並施加限制; 以執行環境封鎖(白名單主機、部署權限隔離)防止元件擴散至非授權環境; 定期盤點執行實例,非預期實例即清除並追查