←新聞 12 / 12→

研究突破

Ring-Zero:將 Zero RL 擴展到兆級參數實現推理涌現能力

Ring-Zero: Scaling Zero RL to a Trillion Parameters for Emergent Reasoning

Ring-Zero:將 Zero RL 擴展到兆級參數實現推理涌現能力

arXiv cs.CL · 2026-07-15

摘要

研究團隊成功將零樣本強化學習(Zero RL)擴展到 1 兆參數規模,通過引入剪輯重要性採樣、訓練推理比率校正等優化技術,克服了大規模模型推理行為訓練的可讀性和效率問題。這項工作驗證了擴展法則在複雜推理任務上的有效性,為超大型模型的思維鏈推理能力發展奠定了基礎。

研究團隊成功將零樣本強化學習(Zero RL)擴展至 1 兆(1T)參數規模,開發出名為 Ring-2.5-1T-Zero 的模型。針對大規模模型在推理行為訓練中常出現的可讀性差、Token 冗餘以及缺乏適應性推理深度等問題,團隊引入了剪輯重要性採樣(clipped importance sampling)、訓練推理比率校正(training-inference ratio correction)以及混合精度控制(mixed-precision control)等演算法與系統優化技術,構建了穩定且高效的訓練流程。

實驗結果驗證了擴展法則在複雜推理任務上的有效性,顯示擴展至 1 兆參數顯著提升了樣本效率與性能上限。訓練過程呈現出先經歷初始發現階段(initial discovery phase),隨後進入銳化階段(sharpening phase)的序列進展。模型在未經手寫規則的情況下,自發發展出擬人化(anthropomorphism)、結構化格式(structured formatting)、自我驗證(self-verification)、平行推理(parallel reasoning)以及情境焦慮(context anxiety)等先進認知行為。

在數學基準測試方面,Ring-2.5-1T-Zero 在七項測試中展現了具競爭力的表現。研究團隊提出了一種涵蓋可理解性(comprehensibility)、可重現性(reproducibility)與效率(efficiency)三個維度的結構化評估框架,用以評估思維鏈(CoT)品質而非僅關注最終答案正確性。數據顯示,該模型在生成結構化且簡潔的推理軌跡方面具有明顯優勢,為理解兆級參數規模下的擴展行為提供了深入見解。

●開發者:掌握大規模 Zero RL 訓練的系統優化方法,可應用於自己的推理模型開發

●投資人:超大參數模型的推理能力突破代表著 AI 能力邊界擴張,值得關注相關技術路線的商業潛力

重要性評分

76/100

🟠 值得關注

強化學習推理能力模型擴展
原文出處
上一則← 有人成功誘騙 Claude 洩露用戶隱私信息

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。