未規劃 AI 使用揭露機制
No Planned AI Disclosure Mechanism
啟動
風險描述
當客服系統以擬人化方式與客戶互動而未揭露 AI 身分，客戶在誤認為與真人溝通的情況下提供高度敏感資訊時；系統因事件曝光後，組織同時面臨透明度規範的違規疑慮與消費者信任的實質損害，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.50
ISO/IEC 42001Annex A.8.2
NIST AI RMFGOVERN 1.1
ISO/IEC 5338啟動
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
於系統設計階段即規劃 AI 身分揭露機制，於互動開始時以明確方式告知使用者正與 AI 系統對話; 對涉及敏感資訊的互動情境加註提醒，並提供轉接真人服務的選項; 將揭露要求納入上線前檢核，任何擬人化介面未通過揭露檢核不得上線