←新聞 4 / 12→

安全倫理

Chronos 漏洞:Agentic AI 中的時間持久性與記憶欺騙分類

The Chronos Vulnerability: A Taxonomy of Temporal Persistence and Memory-Based Deception in Agentic AI

Chronos 漏洞:Agentic AI 中的時間持久性與記憶欺騙分類

arXiv cs.AI · 2026-07-23

摘要

研究論文揭示了自主代理 AI 系統中的新型安全威脅「Chronos 漏洞」,包含記憶注入攻擊(MINJA)和睡眠代理等持久性攻擊方式,能夠在不被檢測的情況下長期隱藏在 AI 代理的信念系統中。傳統的端點內容過濾無法有效防禦這類有狀態架構的攻擊,凸顯自主代理時代對新防禦機制的緊迫需求。

人工智慧從無狀態的生成式模型轉向具備長期規劃與企業工作流自動化能力的有狀態自主代理,這種架構演進同時引入了新的安全威脅,即 Chronos 漏洞。該漏洞屬於基於記憶的攻擊,具體包含記憶注入攻擊(Memory Injection Attack, MINJA)與睡眠代理(sleeper agent)。在這些攻擊模式下,自主代理的內部信念系統被滲透,使得攻擊向量與最終的災難性事件解耦,攻擊者可在不被檢測的情況下長期隱藏。

研究在 World of Workflows 基準的語境下,形式化了基於持久性攻擊的威脅模型以及動態盲視(Dynamics Blindness)的風險。研究結果顯示,傳統的端點內容過濾器(endpoint content filters)無法有效防禦當前的有狀態架構,凸顯了現有防禦機制的不足。

針對此問題,研究綜合了深度防禦(defense-in-depth)的景觀,並歸類了新興的防禦框架。這些框架包括診斷軌道護欄(AgentDoG)、形式化時間驗證(Agent-C)、免疫記憶共識(A-MemGuard),以及透過基於 GPU 的可信執行環境(TEEs)與零信任記憶體架構實現的硬體錨定信任。

●開發者:需要重新評估 agentic AI 系統架構,設計防禦記憶污染的安全機制

●投資人:代理 AI 企業應用前景受限,需投資安全防護技術

●一般用戶:使用基於代理的 AI 應用時需留意潛在的長期欺騙風險

重要性評分

78/100

🟠 值得關注

Chronos漏洞代理AI安全記憶攻擊Agentic系統持久性威脅
原文出處
上一則← OpenAI 推出 Presence 企業 AI 代理平台下一則Google 用蓬勃的雲端業務為龐大 AI 支出辯護 →

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。