多步驟誘導攻擊鏈
Multi-Step Inducement Attack Chain
驗證與確效
風險描述
當攻擊者以數十輪漸進式對話逐步推進，每一輪的請求相較前一輪僅微幅升級時；系統在單輪判斷下均認為請求合理，最終產出原本明確禁止的內容，除引發相關利害關係人權益損害外，亦將造成企業合規與營運商譽代價。
框架對照
OWASP Top 10 for LLMLLM01
MITRE ATLASAML.T0051
NIST AI 600-1Information Security
ISO/IEC 5338運作與監控
MIT AI Risk RepositoryDomain 2
具體風險處置與實施指引
實施多輪對話安全監控，對整段對話的走向而非單輪內容進行風險評估; 建立累積風險評分，漸進式升級的請求鏈達門檻即拒絕並重置; 以已知攻擊鏈樣本持續演練，更新跨輪偵測能力