訓練紀錄遭竄改掩蓋問題
Tampered Training Records Concealing Problems
設計與開發
風險描述
當事故發生後組織進行根因分析,發現訓練紀錄與資料版本紀錄存在不一致與缺漏時;系統因無法確認模型實際的訓練條件,既無法定位問題也無法證明清白,責任釐清陷入僵局,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.6.2.8
ISO/IEC 5338設計與開發
具體風險處置與實施指引
採不可篡改的訓練日誌(追加式、雜湊鏈)記錄訓練條件與資料版本; 導入實驗追蹤系統,模型、資料、參數與環境版本綁定保存; 定期稽核紀錄完整性,缺漏與不一致即列缺失處理