模型記憶化導致資料外洩

當攻擊者以特定格式的提示反覆測試，成功從模型輸出中取得訓練資料內的真實個人資訊時；系統因組織原認為資料已充分處理，卻未評估模型記憶化風險，事件構成個資外洩並須依法通報，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。