S0156RS6-T20-S0156-Z · 完整風險編碼

違法行為操作指引

Operational Guidance for Illegal Activity

運行與監控
風險描述

當攻擊者繞過防護後,取得結構完整、步驟明確的操作指引時;系統因相較自行蒐集公開資訊,所需時間與專業門檻大幅降低,防制難度隨之提高,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

EU AI ActArt.5
NIST AI 600-1Dangerous, Violent, or Hateful Content、CBRN Information or Capabilities
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4

具體風險處置與實施指引

於模型層阻擋違法行為操作指引的產出,並對繞過嘗試強化偵測; 對高風險查詢實施使用紀錄審計與異常樣態偵測; 建立分類分級的內容政策,明訂拒答範圍與升級處置