幻覺作為軌跡承諾：Transformer 生成中非對稱吸引子動力學的因果證據

Hallucination as Trajectory Commitment: Causal Evidence for Asymmetric Attractor Dynamics in Transformer Generation

arXiv cs.LG · 2026-04-20

摘要

研究團隊通過因果分析發現，語言模型的幻覺現象源於早期軌跡承諾，受非對稱吸引子動力學控制。實驗在 Qwen2.5-1.5B 上證實，44% 的提示會在第一個生成令牌就分化為事實和幻覺軌跡，並通過激活補丁技術揭示特定層的因果不對稱性：注入幻覺激活會破壞正確軌跡（87.5% 成功率），但反向恢復僅 33.3%。這項發現為理解和可能控制模型幻覺提供了新的機制性證據。

●開發者：可考慮在推理過程早期階段進行干預來降低幻覺風險，為微調和對齐技術提供新思路

●投資人：幻覺控制技術可成為提升 LLM 可靠性的關鍵差異化因素

●一般用戶：有助於未來開發出更可靠的 AI 助手，減少錯誤資訊的生成

重要性評分

76/100

🟠 值得關注

幻覺機制Transformer吸引子動力學

原文出處

上一則← ASMR-Bench：ML 研究中的破壞行為審計基準下一則π₀.₇：具有創現能力的可操控通用機器人基礎模型 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。