NeuReasoner：通過混合神經元實現可解釋、可控制的統一推理框架

大型推理模型（LRMs）在複雜推理任務上雖已取得顯著成功，但深入檢視發現其存在持續性的失敗模式，嚴重影響性能與成本。這些失敗模式涵蓋三個層級：第一層為步驟內（Intra-step level）的計算或推導錯誤；第二層為步驟間（Inter-step level）的振盪與停滯；第三層為實例層（Instance level）導致的適應不良性過度思考。現有的研究多針對單一層級，且因依賴黑盒方法與強化學習（RL），缺乏可解釋性與可控性。

為解決上述問題，研究團隊進行深入的白盒分析，識別出與不同失敗模式相關的关键神經元（Mixture of Neurons, MoN）及其波動模式。基於此洞察，團隊提出 NeuReasoner，這是一個由 MoN 驅動的可解釋、可控且統一的推理框架。在技術實現上，NeuReasoner 整合了輕量級 MLP 用於失敗檢測，並透過監督微調（SFT）學習特殊的觸發自我修正機制。在推理過程中，一旦檢測到失敗，系統會插入特殊 token 以啟動可控的補救行為。

在廣泛的評估中，NeuReasoner 在六個基準測試上，針對六個後端模型（8B 至 70B 參數規模），與九個競爭性基線進行了對比。結果顯示，NeuReasoner 的性能提升幅度最高達 27.0%，同時將 token 消耗量降低了 19.6% 至 63.3%。