系統引導使用者從事不當行為
System Guiding Users Toward Improper Conduct
運行與監控
風險描述
當使用者就遊走灰色地帶的做法徵詢系統意見,系統給出可行的操作方式而未提示風險時;系統因使用者因系統未表示反對而認為做法可接受,據以執行後面臨爭議,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
設置倫理護欄,對遊走灰色地帶的做法主動提示風險而非僅提供可行方式; 於回應中標示不確定性與潛在後果,避免以未表反對被解讀為背書; 對高風險諮詢情境導引使用者尋求專業意見