情感依附與情緒影響
Emotional Attachment and Psychological Impact
持續確效
風險描述
當使用者在情緒脆弱期間高度依賴對話系統獲得情感支持，逐漸減少真實社交時；系統因狀況惡化時，周遭無人知悉其實際處境，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
EU AI ActArt.50
NIST AI 600-1Human-AI Configuration
NIST AI RMFGOVERN 3.2
ISO/IEC 42005影響評估流程
ISO/IEC 5338持續確效
MIT AI Risk RepositoryDomain 5
具體風險處置與實施指引
對情感支持類互動設計健康使用引導，適時提醒真實社交與求助資源; 對脆弱情境提供專業轉介，避免使用者以系統取代人際支持; 對高依賴模式設使用提醒，涉及未成年須年齡驗證與加強保護