📝 主編觀點 · 技術趨勢解讀2026-06-01
Token 少了七成,但 AI 沒有變笨——這才是 AutoTTS 真正驚人的地方
Meta 和 Google 的研究團隊上週聯手發表了 AutoTTS,把推理階段的 Token 消耗砍掉 69.5%。這個數字乍看像是壓成本的工程優化,但背後代表的事情要大得多。
先解釋一下 Test-time Scaling 是什麼。這是目前 AI 界的主流方向之一——模型在「思考」的時候多花一些算力,讓答案更準確。你可以把它想成考試時「打草稿」,草稿打得越細,答案越可靠。o1、o3、Claude 的 Extended Thinking 都是這個邏輯。問題是,草稿要打多細?打到哪裡才夠?這些策略以前全靠人類研究員憑直覺手動設計,沒有系統性的方法。
AutoTTS 做的事,就是把「怎麼打草稿」這件事本身自動化。它可以根據任務難度動態調整推理深度,難題多算一點,簡單的直接跳過,不再用同一套固定策略應付所有情況。結果就是 Token 少了近七成,但模型表現沒有掉。
這對開發者和企業的實際影響很直接:API 費用。現在很多公司用 o3 或 Claude Sonnet 跑複雜任務,帳單上最燒錢的往往就是推理 Token。AutoTTS 如果能實際落地,理論上可以把這塊成本壓下來快一半以上,同時維持同等的準確度。
更大的意義是:AI 開始學會「分配注意力」了。以前模型對每個問題都全力以赴,像一個學生不管考幾分的題目都花同樣時間作答。現在開始有了輕重緩急的概念。這不只是省錢,而是讓 AI 更接近「有效率的思考」,而不是「暴力運算」。
Scaling Laws 的主戰場已經從訓練轉移到推理,而 AutoTTS 代表的是:連推理策略本身,也開始可以被自動優化了。下一個被自動化的,可能就是你現在還在手動調的那些 prompt 參數。