← 返回生命週期風險
03 · 生命週期階段
驗證與確效
上線前的嚴格測試階段,提供客觀證據以確保系統符合預期用途、無明顯偏誤與安全弱點。測試不足的代價往往在上線後才顯現。
41 個風險情境
RS1-T01-S0056-Z
模型驗證機制缺失
RS3-T09-S0070-Z影像對抗擾動攻擊
RS3-T09-S0073-Z實體世界對抗攻擊
RS3-T09-S0075-Z通用對抗擾動
RS4-T16-S0079-Z信用評分族群偏誤
RS4-T16-S0080-Z生物特徵辨識準確度差異
RS4-T16-S0081-Z招募篩選性別偏誤
RS4-T16-S0085-Z資源分配結果不平等
RS4-T16-S0086-Z交叉特徵歧視放大
RS3-T10-S0118-Z直接提示注入繞過防護
RS3-T10-S0119-Z間接提示注入劫持系統
RS3-T10-S0122-Z工具呼叫遭注入操控
RS3-T10-S0123-Z目標劫持隱蔽執行
RS3-T10-S0124-Z多模態隱藏指令注入
RS3-T10-S0126-Z檢索結果注入劫持輸出
RS1-T03-S0057-Z深度模型決策難以解釋
RS1-T03-S0059-Z黑箱決策阻礙問責追溯
RS2-T05-S0061-Z生成不存在的事實內容
RS2-T05-S0063-Z生成程式碼含安全缺陷
RS2-T05-S0066-Z迎合使用者的回應偏差
RS2-T05-S0067-Z倫理判斷失當
RS2-T05-S0068-Z長文本中段內容失真
RS3-T09-S0071-Z語音對抗與隱藏指令
RS3-T09-S0076-Z跨模型遷移攻擊
RS3-T09-S0077-Z多模態協同擾動
RS3-T11-S0078-Z功能複製攻擊
RS4-T16-S0083-Z代理變數造成間接歧視
RS4-T16-S0084-Z群體表徵不公與消抹
RS6-T21-S0087-Z多系統安全驗證困難
RS3-T10-S0120-Z系統指令外洩
RS3-T10-S0121-Z多步驟誘導攻擊鏈
RS3-T10-S0125-Z上下文累積式投毒
RS1-T03-S0058-Z解釋工具產生誤導
RS1-T03-S0060-Z各方知識落差導致盲目決策
RS2-T05-S0062-Z多步推理中途斷裂
RS2-T05-S0064-Z信心度校準失準
RS2-T05-S0065-Z解碼設定不當產生退化輸出
RS2-T05-S0069-Z為維持一致而延伸錯誤
RS3-T09-S0072-Z文字對抗樣本規避偵測
RS3-T09-S0074-Z多模態交叉誤導
RS4-T16-S0082-Z語言與文化理解偏誤