S0052RS3-T13-S0052-Z · 完整風險編碼

訓練紀錄遭竄改掩蓋問題

Tampered Training Records Concealing Problems

設計與開發
風險描述

當事故發生後組織進行根因分析,發現訓練紀錄與資料版本紀錄存在不一致與缺漏時;系統因無法確認模型實際的訓練條件,既無法定位問題也無法證明清白,責任釐清陷入僵局,除引發相關利害關係人權益損害外,亦將造成企業合規與營運商譽代價。

框架對照

OWASP Top 10 for LLMLLM03
MITRE ATLASAML.T0010
NIST AI 600-1Information Security
ISO/IEC 42001Annex A.6.2.8
ISO/IEC 5338設計與開發

具體風險處置與實施指引

採不可篡改的訓練日誌(追加式、雜湊鏈)記錄訓練條件與資料版本; 導入實驗追蹤系統,模型、資料、參數與環境版本綁定保存; 定期稽核紀錄完整性,缺漏與不一致即列缺失處理