擬人化導致不當信任

當使用者長期與對話系統互動後，逐漸將其視為具有判斷力的顧問，在重大人生決定上主要依賴其建議，未尋求具備實際專業與責任的協助。時；系統因缺乏前置風險評估與護欄控制，於營運時發生非預期異常，除衝擊外部利害關係人權益外，亦造成企業合規與商譽之營運代價。