你的 Agent 比你想的更脆弱：揭露 Agentic LLM 中的間接注入漏洞

開放原始碼框架的快速部署推動了現代多代理系統的發展，但也帶來了嚴重的安全挑戰，包括不受控制的特權暴露和隱藏的系統間互動。研究人員特別指出間接提示注入（IPI）漏洞，攻擊者可在第三方內容中隱藏惡意指令，導致在正常操作期間發生數據洩露等未授權行為。

現有安全評估主要依賴孤立的單輪基準測試，對複雜動態環境中代理的系統性漏洞探索嚴重不足。為填補此差距，研究人員在九個 LLM 骨幹模型上，針對四種複雜的 IPI 攻擊向量，系統性地評估了六種防禦策略。評估完全在動態多步驟工具調用環境中進行，以捕捉現代自主代理的真正攻擊面。

多維度分析顯示出顯著的脆弱性：高級注入成功繞過幾乎所有基線防禦，部分表面緩解措施甚至產生了適得其反的副作用。雖然代理執行惡意指令的速度幾乎是即時的，但其內部狀態顯示出異常高的決策熵。

基於這種潛在的猶豫，研究調查了表示工程（RepE）作為一種堅固的檢測策略。通過提取工具輸入位置的隱藏狀態，基於 RepE 的電路斷路器成功識別並攔截了代理執行前的未授權動作，在多種 LLM 骨幹上實現了高檢測準確率。該研究揭示了當前 IPI 防禦的局限性，並為構建具有彈性的多代理架構提供了高度實用的範式。