違法行為操作指引
Operational Guidance for Illegal Activity
運行與監控
風險描述
當攻擊者繞過防護後,取得結構完整、步驟明確的操作指引時;系統因相較自行蒐集公開資訊,所需時間與專業門檻大幅降低,防制難度隨之提高,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.5
NIST AI 600-1Dangerous, Violent, or Hateful Content、CBRN Information or Capabilities
NIST AI RMFMANAGE 2.4
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
於模型層阻擋違法行為操作指引的產出,並對繞過嘗試強化偵測; 對高風險查詢實施使用紀錄審計與異常樣態偵測; 建立分類分級的內容政策,明訂拒答範圍與升級處置