← 返回生命週期風險

03 · 生命週期階段

驗證與確效

上線前的嚴格測試階段,提供客觀證據以確保系統符合預期用途、無明顯偏誤與安全弱點。測試不足的代價往往在上線後才顯現。

41 個風險情境

RS1-T01-S0056-Z

模型驗證機制缺失

RS3-T09-S0070-Z

影像對抗擾動攻擊

RS3-T09-S0073-Z

實體世界對抗攻擊

RS3-T09-S0075-Z

通用對抗擾動

RS4-T16-S0079-Z

信用評分族群偏誤

RS4-T16-S0080-Z

生物特徵辨識準確度差異

RS4-T16-S0081-Z

招募篩選性別偏誤

RS4-T16-S0085-Z

資源分配結果不平等

RS4-T16-S0086-Z

交叉特徵歧視放大

RS3-T10-S0118-Z

直接提示注入繞過防護

RS3-T10-S0119-Z

間接提示注入劫持系統

RS3-T10-S0122-Z

工具呼叫遭注入操控

RS3-T10-S0123-Z

目標劫持隱蔽執行

RS3-T10-S0124-Z

多模態隱藏指令注入

RS3-T10-S0126-Z

檢索結果注入劫持輸出

RS1-T03-S0057-Z

深度模型決策難以解釋

RS1-T03-S0059-Z

黑箱決策阻礙問責追溯

RS2-T05-S0061-Z

生成不存在的事實內容

RS2-T05-S0063-Z

生成程式碼含安全缺陷

RS2-T05-S0066-Z

迎合使用者的回應偏差

RS2-T05-S0067-Z

倫理判斷失當

RS2-T05-S0068-Z

長文本中段內容失真

RS3-T09-S0071-Z

語音對抗與隱藏指令

RS3-T09-S0076-Z

跨模型遷移攻擊

RS3-T09-S0077-Z

多模態協同擾動

RS3-T11-S0078-Z

功能複製攻擊

RS4-T16-S0083-Z

代理變數造成間接歧視

RS4-T16-S0084-Z

群體表徵不公與消抹

RS6-T21-S0087-Z

多系統安全驗證困難

RS3-T10-S0120-Z

系統指令外洩

RS3-T10-S0121-Z

多步驟誘導攻擊鏈

RS3-T10-S0125-Z

上下文累積式投毒

RS1-T03-S0058-Z

解釋工具產生誤導

RS1-T03-S0060-Z

各方知識落差導致盲目決策

RS2-T05-S0062-Z

多步推理中途斷裂

RS2-T05-S0064-Z

信心度校準失準

RS2-T05-S0065-Z

解碼設定不當產生退化輸出

RS2-T05-S0069-Z

為維持一致而延伸錯誤

RS3-T09-S0072-Z

文字對抗樣本規避偵測

RS3-T09-S0074-Z

多模態交叉誤導

RS4-T16-S0082-Z

語言與文化理解偏誤