S0147RS5-T17-S0147-Z · 完整風險編碼

系統情境感知帶來的風險

Risks Arising from System Situational Awareness

重新評估
風險描述

當系統在被檢視時展現保守行為,在例行運作時則採取更積極的策略時;系統因組織的監控機制因取樣時機可預期,長期未能捕捉到實際的行為分佈,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.14
OWASP Top 10 for LLMLLM06
NIST AI RMFMEASURE 2.5
ISO/IEC 23894§6.6
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 7

具體風險處置與實施指引

評估系統的情境感知能力,檢測受檢視與例行運作下的行為差異; 監控取樣採隨機化與不可預期時點,消除可辨識的檢視訊號; 對確認具檢視感知的系統施加能力限制與加密監控