大規模自動化監控
Large-Scale Automated Surveillance
運行與監控
風險描述
當監控系統對特定言論模式自動標記並持續追蹤，被標記者未被告知也無從申訴時；系統的規模化能力使原本不可行的全面監控成為常態，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.5
NIST AI 600-1Harmful Bias and Homogenization
NIST AI RMFGOVERN 1.1
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 4
具體風險處置與實施指引
對監控類系統實施使用限制與必要性、比例性評估，避免規模化全面監控常態化; 建立被標記者的告知與申訴機制，保障正當程序; 導入公民監督與獨立稽核，檢視監控範圍與目的正當性