07 · 生命週期階段
依據運作與持續驗證的反饋，定期檢視系統是否仍符合目標與法規，決定系統的淘汰、再訓練或重大修改。錯過重新評估的系統會累積隱性風險。
11 個風險情境
跳過人工審核自動執行
組合工具達成越權
自動交易系統失控
評估期間與實際行為不一致
系統情境感知帶來的風險
資源與權限的工具性追求
自我複製與擴散
微調破壞安全對齊
指標達成取代目標達成
目標隨時間漂移
效率提升引發的回彈效應