自固鞏語言模型：持續將上下文知識整合入模型權重

Self-Consolidating Language Models: Continual Knowledge Incorporation from Context

每天早上一封信，5 分鐘看完 AI 重點。5min AI 是繁體中文的每日 AI 新聞整理，免費、可隨時取消。

arXiv cs.CL2026-05-11

摘要

研究團隊提出 SCoL 框架，讓 LLM 能夠學習將當前對話和長文本內容的知識持久寫入模型權重，同時避免對已有知識造成破壞。這項技術採用後訓練方式和元強化學習，使模型能夠自主決定哪些 Transformer 層需要更新，解決長上下文模式下資訊保留和複用的核心挑戰。

大型語言模型（LLMs）正日益接收來自段落、對話及長上下文工作流的資訊流，但較大的上下文視窗並不保證有用資訊能被保留與複用。研究團隊針對此問題提出持續上下文整合（continual context consolidation）概念，旨在將當前上下文寫入模型權重，同時限制對先前已整合資訊的干擾。為此，研究團隊提出了自固鞏語言模型（Self-Consolidating Language Models, SCoL）框架。

SCoL 是一個後訓練框架，讓大型語言模型在面對當前上下文時，學習生成文本更新指令，以指定其自身的 Transformer 層中哪些需要更新。由於已承諾的更新會改變後續生成未來選擇的模型，研究團隊使用元強化學習（meta-reinforcement learning）在不斷變化的模型狀態上對 SCoL 進行訓練。該框架在 SQuAD 知識整合上採用監督式問答獎勵，並在 LongBench v2 長上下文整合上採用基於內在似然度的獎勵。

在兩種設定下，SCoL 在獲取與保留方面均優於提示（prompting）、摘要（summarization）、批量測試時訓練（batch test-time training）及序列微調（sequential finetuning）等基線方法。對所學選擇模式的分析顯示，SCoL 鼓勵大型語言模型生成稀疏的更新位置，這些位置與高費雪資訊（Fisher information）的層級對齊，表明模型學會將可塑性路由至對損失敏感的區域，同時限制干擾。此外，SCoL 能從較短的元訓練流傳輸至較長的 LongBench v2 流進行評估，顯示該框架支援可擴展的串流整合。

●開發者：可探索如何在應用中實現知識動態融合，減少長文本導致的遺忘問題

●投資人：持續學習技術可能成為下一代 LLM 必備能力，相關落地應用前景看好

●一般用戶：未來對話 AI 將更好地記住和應用對話歷史，持續改進個性化回應品質

重要性評分

76/100

🟠 值得關注

LLM持續學習知識整合上下文鞏固

原文出處

上一則← MedExAgent：訓練 LLM 代理在雜訊臨床環境中提問、檢查和診斷下一則MedAction：朝向主動多轮臨床診斷 LLM 邁進 →

每天早晨收到值得看的 AI 重點。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。