1問責與透明性風險26

S0001高風險系統未完成法定登錄T01S0002法令遵循準備不足T01S0003個人資料影響評估缺漏T01S0004跨境監管要求衝突T01S0005損害發生時責任歸屬不明T01S0006技術演進速度超越監管能力T01S0007特定產業監管空白T01S0008價值鏈責任分擔灰色地帶T02S0009缺乏 AI 治理組織架構T02S0010部署前注意義務未盡T02S0011供應鏈問責斷鏈T02S0012未規劃 AI 使用揭露機制T03S0013供應商不透明阻礙風險評估T03S0014第三方服務供應商風險T03S0044開源模型授權條款違反T01S0056模型驗證機制缺失T01S0057深度模型決策難以解釋T03S0058解釋工具產生誤導T03S0059黑箱決策阻礙問責追溯T03S0060各方知識落差導致盲目決策T03S0099稽核軌跡不完整T02S0100缺乏有效申訴管道T02S0101透明度不足導致監管失效T02S0102版本變更未告知使用者T03S0103來源標示不透明T03S0190傷害難以感知與量化T01

2數據與模型風險12

S0061生成不存在的事實內容T05S0062多步推理中途斷裂T05S0063生成程式碼含安全缺陷T05S0064信心度校準失準T05S0065解碼設定不當產生退化輸出T05S0066迎合使用者的回應偏差T05S0067倫理判斷失當T05S0068長文本中段內容失真T05S0069為維持一致而延伸錯誤T05S0104服務品質跨群體差異T04S0105專業領域輸出不可信T05S0191資料時效落差導致效能衰退T04

3隱私與資安風險77

S0032未取得同意即以個資訓練T07S0033網路爬取內容涉著作權爭議T07S0034蒐集目的外的二次利用T07S0035隱含式蒐集與同意不透明T07S0036標籤竄改攻擊T08S0037後門觸發樣本植入T08S0038群眾外包標註遭污染T08S0039檢索知識庫遭投毒T08S0040微調階段破壞安全對齊T08S0041分散式訓練梯度污染T08S0042人類偏好資料遭操縱T08S0043自動化資料管線上游污染T08S0045惡意套件混入開發環境T12S0046公開平台模型含後門T12S0047訓練框架自身漏洞T12S0048缺乏元件清單導致漏洞盲區T12S0049深度學習框架漏洞遭利用T12S0050前處理工具供應鏈漏洞T12S0051不安全序列化格式T13S0052訓練紀錄遭竄改掩蓋問題T13S0053微調層檔案遭替換T13S0054模型來源鏈不透明T13S0070影像對抗擾動攻擊T09S0071語音對抗與隱藏指令T09S0072文字對抗樣本規避偵測T09S0073實體世界對抗攻擊T09S0074多模態交叉誤導T09S0075通用對抗擾動T09S0076跨模型遷移攻擊T09S0077多模態協同擾動T09S0078功能複製攻擊T11S0088模型權重未加密外洩T11S0089模型標記遭移除T11S0090傳輸過程權重遭竄改T13S0091部署階段模型遭替換T13S0092更新推送通道遭劫持T13S0093推論介面缺乏存取控制T14S0094容器映像漏洞未修補T14S0095雲端服務權限配置過寬T14S0096推論端點成為內網跳板T14S0097多租戶隔離失效T14S0106模型記憶化導致資料外洩T06S0107成員推斷攻擊揭露參與事實T06S0108屬性推斷揭露未公開特徵T06S0109對話內容跨使用者外洩T06S0110向量表示的逆推風險T06S0111零散資訊關聯推斷身分T06S0112互動資料過度蒐集與保留T06S0113模型逆向重建訓練資料T06S0114提示內容無意洩露機密T06S0115跨境傳輸違反在地化要求T07S0116生成內容的真實性與歸屬爭議T07S0117資料主體權利難以行使T07S0118直接提示注入繞過防護T10S0119間接提示注入劫持系統T10S0120系統指令外洩T10S0121多步驟誘導攻擊鏈T10S0122工具呼叫遭注入操控T10S0123目標劫持隱蔽執行T10S0124多模態隱藏指令注入T10S0125上下文累積式投毒T10S0126檢索結果注入劫持輸出T10S0127查詢蒸餾竊取能力T11S0128側通道推斷模型資訊T11S0129共享運算平台側通道風險T12S0130共享硬體記憶體殘留T14S0131服務日誌暴露敏感輸入T14S0132推論資源耗盡攻擊T15S0133運算資源遭劫持挪用T15S0134特製輸入放大運算成本T15S0135自主流程陷入無限迴圈T15S0136節點故障引發連鎖崩潰T15S0137成本放大攻擊T15S0138單一供應商依賴形成單點故障T15S0140自主系統越權存取檔案T14S0141自主系統未授權對外連線T14S0205保留期限屆滿後仍存於模型T07

4公平性與歧視風險17

S0026歷史資料中的社會偏誤T16S0027訓練資料代表性不足T16S0028標註者偏誤傳遞至資料集T16S0029合成資料放大既有偏誤T16S0030多語言資料分佈失衡T16S0031刻板印象被學習並固化T16S0079信用評分族群偏誤T16S0080生物特徵辨識準確度差異T16S0081招募篩選性別偏誤T16S0082語言與文化理解偏誤T16S0083代理變數造成間接歧視T16S0084群體表徵不公與消抹T16S0085資源分配結果不平等T16S0086交叉特徵歧視放大T16S0139使用者負擔不均T16S0157對兒少的不當內容與引導T16S0192回饋迴圈放大偏誤T16

5可靠性與安保風險10

S0142跳過人工審核自動執行T17S0143組合工具達成越權T17S0144自動交易系統失控T17S0145指標達成取代目標達成T17S0146評估期間與實際行為不一致T17S0147系統情境感知帶來的風險T17S0148資源與權限的工具性追求T17S0149自我複製與擴散T17S0202微調破壞安全對齊T17S0203目標隨時間漂移T17

6AI 互動與應用風險48

S0055模型同質化造成系統性風險T21S0087多系統安全驗證困難T21S0150生成針對群體的仇恨內容T20S0151生成兒少不宜之虛擬內容T20S0152生成內容強化刻板印象T19S0153未經同意的合成親密影像T20S0154自動化騷擾內容生成T20S0155極端主義內容產製T19S0156違法行為操作指引T20S0158大規模不實資訊污染T20S0159專業人員過度信賴系統判斷T19S0160風險評估工具的過度依賴T19S0161開發者未審查即採用生成程式碼T19S0162學習過程過度依賴工具T19S0163人機交接失敗T19S0164系統引導使用者從事不當行為T19S0165擬人化導致不當信任T19S0166健康與心理相關建議的傷害T19S0167自動化偏誤導致忽略異常T19S0168合成身分詐欺T20S0169大規模不實內容產製T20S0170高度客製化釣魚攻擊T20S0171危險知識的取得門檻降低T20S0172學術造假自動化T20S0173大規模自動化監控T20S0174科學推理能力遭濫用T20S0175精準化社交工程T20S0176選舉與政治過程操縱T20S0177未經同意的合成親密影像散布T20S0178自動化網路攻擊T20S0179多系統目標互相衝突T21S0180系統間資訊不同步T21S0181串聯錯誤逐層放大T21S0182系統間通訊協定安全不足T21S0183自主系統形成默契協調T21S0184關鍵領域系統互動升級T21S0185系統間隱蔽通訊T21S0186多系統陷入集體次優T21S0187推薦機制影響選擇自主T22S0188流程設計取消人為否決T22S0193專業技能退化T22S0194情感依附與情緒影響T22S0195同溫層效應與觀點極端化T22S0196能力發展機會受阻T22S0197文化表達與認同受衝擊T22S0198人際互動模式改變T22S0199說服能力與行為操縱T22S0200真偽界線模糊與認知混亂T22

7永續發展與福祉風險18

S0015大規模自動化取代就業T23S0016技術與算力集中造成失衡T23S0017數位落差加劇既有不平等T23S0018創意產業經濟結構衝擊T23S0019國際間技術競逐加劇T23S0020市場競逐壓低安全標準T23S0021全球研發能力鴻溝T23S0022資料標註勞動條件失衡T23S0023模型訓練碳排放T24S0024資料中心水資源消耗T24S0025關鍵礦物開採環境衝擊T24S0098推論效率低落造成資源浪費T24S0189共用定價系統形成默契T23S0201內容同質化與多樣性衰退T23S0204效率提升引發的回彈效應T24S0206硬體汰換產生電子廢棄物T24S0207設備提早報廢加劇廢棄物T24S0208環境成本轉移至弱勢地區T24