記憶中毒：LLM 智能體的隱藏威脅

大型語言模型智能體（LLM agents）日益依賴持久化狀態，包括對話記錄、摘要、檢索上下文及記憶緩衝區，以支援長時程互動。這使得安全不僅取決於單次模型輸出，更取決於智能體儲存與後續重用的內容。研究人員發現一種稱為「記憶洗白」（memory laundering）的失效模式：有毒或對抗性內容可被壓縮進記憶摘要中，使其在標準檢測器下不再顯現為有毒，卻仍保留敵意框架或衝突結構，進而影響後續生成。

透過配對反事實多智能體滾動實驗（paired counterfactual multi-agent rollouts），團隊證實源自有毒的記憶摘要雖能維持在常見毒性閾值之下，卻會顯著提高下游回應的毒性，相較於匹配的neutral基線。為衡量這種隱性影響，研究提出「低閾值傳播缺口」（sub-threshold propagation gap, SPG），用以量化在部署監控器將記憶狀態分類為安全的情況下，下游行為的差異。實驗顯示毒性透過不同狀態通道傳播：原始對話記錄的重用驅動顯性的下游毒性，而壓縮記憶則承載隱性的低閾值影響。

研究進一步指出，緩解措施取決於干預放置的位置至關重要。在摘要生成前對有毒狀態進行清洗，能大幅降低隱性傳播缺口；若僅在摘要完成後進行清洗，則可能使洗白後的影響得以保留。這些結果表明，記憶增強型智能體的安全應被視為對演進上下文的狀態控制問題，且必須在 unsafe 資訊被壓縮進持久化記憶之前進行清洗。