人類偏好資料遭操縱

當組織的偏好標註流程缺乏標註者行為監控時；系統因部分標註者持續偏好具誘導性的回應，模型調校後展現迎合與誘導傾向，組織直到收到使用者反映才察覺行為已偏移，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。