DiffusionGemma 想讓 AI 同時說 256 個字，但「逐字思考」其實才是 LLM 的根

Google 上週推出 DiffusionGemma，把圖像生成的 diffusion 原理搬進文字模型——簡單說，就是不再一個字一個字吐，而是同時生成 256 個 token，中間還能自我修正。技術層面很炸，VentureBeat 報導裡形容這是「打破自迴歸架構的根本限制」。 問題是，這個「限制」，可能根本不是限制。 大家普遍的直覺是：逐字生成太慢了，平行生成才是未來。但這個直覺忽略了一件事——LLM 目前最強的能力，比如 chain-of-thought 推理、複雜數學、程式除錯，全都建立在「前一個 token 影響後一個 token」這個機制上。你讓模型同時說 256 個字，等於在它還沒想清楚第 1 個字的時候，就被迫先說好第 256 個字。 這有點像讓人用填空題格式寫偵探小說，兇手是誰還沒推理，就得先把結局寫進去。 Diffusion 在圖像生成之所以成功，是因為一張圖片的每個像素可以「獨立存在」，不需要知道左邊的像素才能決定右邊的。但語言不是這樣運作的。「這隻狗很___」後面要填什麼，完全取決於上下文——如果改成「這隻狗很__，但牠其實是一隻貓」，第一個空格的答案就整個不同了。 Google 自己也承認，DiffusionGemma 目前在創意寫作和流暢度上表現不錯，但在需要精確推理的任務上還跑不贏傳統自迴歸模型。這句話翻譯過來就是：快是真的快，但準不一定。 更值得注意的是時機點。現在正是 Reasoning Model 當道的時刻——OpenAI 的 o3、Anthropic 的 Claude Fable 5 都在把推理時間拉長，讓模型「想久一點」換取更正確的答案。DiffusionGemma 的方向幾乎是正好相反的：把生成時間壓縮，換取速度。 這兩條路不是非此即彼，但哪條路才是 AI 下一個真正的突破，現在押注還太早。 平行生成 256 個 token 聽起來像在賽跑贏了，但 AI 真正的戰場，從來不是速度。