新聞 5 / 12

研究突破

Ling 和 Ring 2.6 技術報告:萬億參數規模下的高效即時代理智能

Ling and Ring 2.6 Technical Report: Efficient and Instant Agentic Intelligence at Trillion-Parameter Scale

Ling 和 Ring 2.6 技術報告:萬億參數規模下的高效即時代理智能

arXiv cs.CL · 2026-06-16

摘要

Ling-2.6 和 Ring-2.6 是一套新型大模型家族,分別針對快速響應和深度推理進行優化,能在保持低延遲的同時提供強大推理能力。兩款模型通過建築遷移預訓練和大規模後訓練升級 Ling-2.0 基礎模型,並創新性地整合混合線性注意力機制,實現了模型能力和部署效率的雙重提升。

這份技術報告介紹了 Ling-2.6 和 Ring-2.6 這套新型大模型家族,旨在解決高效且可擴展的代理智能(agentic intelligence)需求,即在提供低延遲回應與強大推理能力的同時,確保模型在訓練、服務與部署上的實用性。Ling-2.6 專注於即時回應生成與提升每個輸出 token 的能力,而 Ring-2.6 則針對深度推理與更進階的代理工作流程進行優化。

模型並非從頭開始訓練,而是透過架構遷移預訓練(architectural migration pre-training)與大規模後訓練(large-scale post-training)來升級 Ling-2.0 基礎模型。此升級過程由模型架構、優化目標、服務系統與代理訓練環境的統一共同設計(unified co-design)所引導,從而同時提升模型能力與部署效率。

在架構層面,報告引入了混合線性注意力機制(hybrid linear attention design),將 Lightning Attention 與 MLA 整合,以改善長上下文訓練與解碼的效率。為進一步提升 token 效率,研究團隊透過進化思維鏈(Evolutionary Chain-of-Thought)、語言單位策略優化(Linguistic Unit Policy Optimization)、雙向偏好對齊(bidirectional preference alignment)以及最短正確回應蒸餾(shortest-correct-response distillation)來優化每個輸出 token 的能力。

針對代理能力,報告提出了 KPop,這是一個專為支持 Ring-2.6-1T 在大型環境接地數據上進行穩定訓練而設計的強化學習框架。KPop 透過在編碼、搜尋、工具使用與工作流程執行之間進行非同步調度(asynchronous scheduling)來提升訓練效率,使模型能夠從複雜的代理與環境互動中進行可擴展的學習。報告已將 2.6 系列的所有檢查點開源,以支持實務代理智能的進一步研究與開發。

開發者:可關注混合線性注意力等新架構設計及代理工作流優化方案

投資人:萬億參數模型的商業化部署方案值得關注

一般用戶:更快更聰明的 AI 代理應用有望加速落地

重要性評分

76/100

🟠 值得關注

大語言模型代理智能線性注意力
原文出處
上一則Nemotron 3 Ultra:開源高效混合專家模型,推理能力達業界水準下一則Ask HN:有人用本地模型取代 Claude/GPT 進行日常程式開發嗎?

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。