訓練資料代表性不足

當AI系統於整體測試中表現優異，實際部署後發現對特定族群的判讀準確率明顯偏低時；系統因追查發現訓練資料中該族群樣本佔比極少，模型未能學到其特徵差異，導致特定團體面臨較高的誤判風險，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。