📰 2026-10-05 AI 日報

Homa:想把 TCP 請出資料中心,AI 叢集的網路瓶頸卡在 1980 年代的設計
阿凱📝 主編觀點 · 技術趨勢解讀 — 技術上發生什麼,為什麼重要,背後的原理是什麼

Homa:想把 TCP 請出資料中心,AI 叢集的網路瓶頸卡在 1980 年代的設計

TCP 是 1980 年代設計的協議,今天你家 GPU 叢集裡幾萬張卡互相傳資料,很多地方還在用它。斯坦福大學教授提出的 Homa 就是衝著這件事來的,目標是取代 TCP 在資料中心通訊的主導地位。Homa 的主要作者是 John Ousterhout,就是寫出 Tcl 和 Raft 的那位。 TCP 的設計假設是兩台電腦之間先建立連線,然後送一條連續的位元組串流。資料中心的實際流量不長這樣。大量是小訊息,一個 RPC 請求、一次梯度同步,夾雜少數超大的資料搬運。TCP 的串流模型會讓小訊息卡在大傳輸後面排隊,這叫 head-of-line blocking。而 AI 訓練是同步的,一千張卡等最慢那一個封包,整個叢集就陪著空轉。 Homa 的做法是三個地方跟 TCP 反著來。第一,以「訊息」為單位,不是串流,也不用先建立連線。第二,由接收端決定誰可以送、送多快,避免交換器緩衝區被塞爆。第三,利用交換器本來就有的優先權佇列,讓短訊息插隊。比喻一下:TCP 像一條只有一個結帳櫃台的賣場,買一瓶水也得排在推三台推車的人後面;Homa 是開了快速結帳通道,還由收銀員決定下一位。 放到今天的背景特別有感。同一天 Google 的 MaxText 團隊在 TPU 上復現 Olmo 3 7B 預訓練,模型浮點運算利用率做到 57.4%,意思是硬體算力已經被壓榨到快一半以上都花在真正的運算上。算力端越做越滿,網路就越容易變成短板。GPU 一張幾萬美元,網路上每浪費一微秒,都是在燒這筆錢的折舊。 不過 Homa 要成功沒那麼簡單。TCP 的問題在於整個軟體生態都吃它:防火牆、負載平衡器、監控工具、各種函式庫。Homa 目前比較像是 Linux 核心模組,要換掉 TCP,得有雲端大廠願意在自己的叢集裡實測,而且 NVIDIA 自家的 InfiniBand 和 RoCE 也在搶同一塊地盤。 我的預測是,Homa 不會「取代」TCP,而是先在 AI 叢集這種封閉環境裡站穩腳跟,外面的世界繼續用 TCP。畢竟 40 年的老協議,退休得慢慢來。

素材來源:Google Developers — MaxText 成功在 Google Cloud TPUs 上復現 Olmo 3 7B 預訓練 ↗ 、 Hacker News — Homa:AI 叢集網路協議的 TCP 終結者 [影片] ↗ 、 MIT News AI — MIT、Google 與 Northeastern 大學合作推出 InstructMesh,讓使用者修復 AI 生成的 3D 模型並進行客製化製造 ↗ 、 Google Developers — Google Gemini Enterprise 推出 De... ↗

Meta 想讓你死後繼續發限動
塵子💬 塵子觀點

Meta 想讓你死後繼續發限動

我活著的時候三天才發一次限動,死了之後讓 AI 代發,朋友大概會想:「欸,他最近怎麼變勤勞了?」 Meta 剛拿到一項專利,簡單說,就是用你生前留下的資料訓練一個 AI 分身,在你離開之後繼續經營社群帳號:發文、回覆,甚至跟你的朋友互動。 但仔細想想,我們現在其實已經在這樣做了。你上次認真寫一則貼文是什麼時候?大部分人的社群早就是精心策劃的人設,跟真實的自己有多少關係,心裡有數。 讓我不舒服的不是技術,而是它背後的假設:你的數位存在比實體存在更重要。Meta 不是在幫你延續生命,是在延續帳號的活躍度。因為對演算法來說,死人和不發文的活人沒有差別。 所以我開始考慮趁現在多發幾則廢文,至少讓未來的 AI 分身有點素材可以模仿。畢竟它能拿到的,就只有我留下來的這些而已。

素材來源:TechCrunch AI — Meta 將 Muse 程式碼免費開放,希望你的下一個裝置都搭載 Muse ↗

MIT、Google 與 Northeastern 大學合作推出 InstructMesh,讓使用者能修復 AI 生成的 3D 模型並進行客製化製造。同時 Google 調整 Gemini 免費版策略,僅提供 Flash-Lite 模型,而 Meta 則免費開放 Muse 程式碼以推動裝置普及。此外,Homa 協議有望終結 AI 叢集網路的 TCP 瓶頸,MaxText 亦成功在 Google Cloud TPUs 上復現 Olmo 3 7B 預訓練。

今日完整報導

以下每則都有第一手來源與我們自己撰寫的完整內文,點入即可讀完。

MIT、Google 與 Northeastern 大學合作推出 InstructMesh,讓使用者修復 AI 生成的 3D 模型並進行客製化製造
📄 完整報導

MIT、Google 與 Northeastern 大學合作推出 InstructMesh,讓使用者修復 AI 生成的 3D 模型並進行客製化製造

針對生成式 AI 在 3D 列印時常出現「好看但不能用」的問題,MIT CSAIL、Google 與 Northeastern 大學的研究團隊開發了 InstructMesh 工具。該系統允許使用者透過提示詞生成 3D 設計後,直接標記並修補特定區域,解決了傳統 AI 模型難以編輯的痛點,讓非專業用戶也能輕鬆設計出符合實際功能的物品。

3D 列印生成式 AIMIT
MIT News AI
Google Gemini Enterprise 推出 De...
📄 完整報導

Google Gemini Enterprise 推出 De...

Google Gemini Enterprise 推出 DevEx 計畫,透過持續的 Sprint 測試來優化企業級 AI 治理與開發者工作流程。此次更新重點在於精簡設定前置作業、強化擴展功能的安全性,並釐清政策執行機制,同時提供更新後的文件與標準化程式碼範例,協助開發者更順利地部署 Agent Gateway 與 Semantic Governance。

Gemini EnterpriseDevExAgent Gateway
Google Developers

今日速報

以下只有重點摘要,完整內容請看原始來源。

Homa:AI 叢集網路協議的 TCP 終結者 [影片]

Homa:AI 叢集網路協議的 TCP 終結者 [影片]

斯坦福大學教授提出 Homa 網路協議,旨在取代長期主導資料中心通訊的 TCP 標準。這項技術針對 AI 叢集的高頻寬與低延遲需求進行優化,被視為提升大型 AI 訓練效率的關鍵基礎設施革新。

HomaTCPAI 叢集
Hacker News
Meta 將 Muse 程式碼免費開放,希望你的下一個裝置都搭載 Muse

Meta 將 Muse 程式碼免費開放,希望你的下一個裝置都搭載 Muse

Meta 宣布將 Muse 的程式碼免費開放,希望將這項技術整合到電視、烤麵包機等各種日常裝置中。此舉顯示 Meta 正積極推動 Muse 成為物聯網裝置的標準 AI 能力,讓開發者能更輕鬆地為硬體加入智慧功能。

MetaMuse物聯網
TechCrunch AI
Gemini 使用權再度縮水!免費版只能用 Flash-Lite,AI Plus 不再享有 Pro 模型

Gemini 使用權再度縮水!免費版只能用 Flash-Lite,AI Plus 不再享有 Pro 模型

Google 宣布自 10 月 9 日起調整 Gemini 模型存取權限,免費用戶僅能使用 Flash-Lite 模型,而付費的 Google AI Plus 訂閱者也將失去 Pro 模型的存取權。此舉意味著在 Gemini 4 尚未開放前,Google 已先縮減現有服務範圍,導致 AI Plus 的價值吸引力下降。

GeminiGoogle AI PlusFlash-Lite
電腦王阿達
MaxText 成功在 Google Cloud TPUs 上復現 Olmo 3 7B 預訓練

MaxText 成功在 Google Cloud TPUs 上復現 Olmo 3 7B 預訓練

MaxText 團隊利用 JAX/XLA 在 Google Cloud TPUs 上從頭成功復現了 Ai2 的 Olmo 3 7B 語言模型,其預訓練與中訓練階段的表現精確匹配了原始的 PyTorch-on-GPU 參考實現。該實作不僅達到了高達 57.4% 的模型浮點運算利用率(MFU),更展現了強大的基礎設施可移植性,能在不修改訓練配方下應對集群調整與跨代 TPU 遷移。此次實驗也證實了全面保留驗證集的重要性,成功揪出一個會導致訓練損失虛低、掩蓋真實效能的資料載入器記憶錯誤。

MaxTextGoogle Cloud TPUOlmo 3
Google Developers
別被騙了——LLM 並不具備推理能力

別被騙了——LLM 並不具備推理能力

MIT Technology Review 發表文章指出,儘管 AlphaGo 在圍棋對弈中展現出看似具備「創造力」的棋步,但大型語言模型(LLM)本質上仍依賴機率計算,並未真正具備人類式的推理能力。文章透過回顧 AlphaGo 擊敗李世石時的經典棋局,強調機器學習與真正推理之間的差異,提醒大眾不應將統計預測誤認為智能推理。

大型語言模型推理能力AlphaGo
MIT Tech Review
GitHub Universe 2026 十大技術演講精選

GitHub Universe 2026 十大技術演講精選

GitHub 官方部落格整理出 GitHub Universe 2026 大會中值得關注的十場技術演講,涵蓋開發者工具與 AI 應用。重點包括深入解析 npm install 背後的依賴管理與安全機制,以及 GitHub Copilot 在記憶管理與權限控制方面的最新技術演進。

GitHub UniverseCopilotnpm
GitHub Blog
Agent 說已完成,但資料庫不同意

Agent 說已完成,但資料庫不同意

這則標題以擬人化手法描繪了 AI Agent 在執行任務時,與後端資料庫狀態產生衝突的經典場景。它揭示了當前 AI 應用開發中,Agent 自主決策與系統實際狀態同步之間存在的可靠性挑戰,提醒開發者需重視錯誤處理與狀態驗證機制。

AI Agent資料庫同步系統可靠性
Hugging Face Blog

今日洞察

生成式 AI 正從單純的內容創作邁向實體應用與基礎設施優化。InstructMesh 解決 3D 列印模型可用性痛點,結合 Meta 開放 Muse 推動物聯網智慧化,顯示 AI 加速滲透硬體層級。同時,Homa 協議挑戰 TCP 主導地位,MaxText 在 TPU 上成功復現模型並驗證基礎設施可移植性,凸顯高效能運算架構的關鍵角色。然而,Google 調整 Gemini 存取權限,縮減免費與付費版功能,反映商業化策略收緊。整體而言,產業焦點轉向提升 AI 落地實用性、優化訓練效率及強化硬體整合能力,技術成熟度與商業模式正經歷深刻重組。

🔮 本週趨勢雷達

基準為 Google 於 2026 年 10 月 9 日起將 Gemini 免費版限制為 Flash-Lite,且 AI Plus 訂閱者失去 Pro 模型存取權,同時 Anthropic 與 OpenAI 相繼推出 Opus 5.5 與 GPT-6.1 Sol 並大幅降價。預測在 90 天內,企業級 AI 服務將從單純的模型效能競爭,轉向以「動態治理與安全合規」為核心的差異化競爭,具備內建 Semantic Governance 與 Agent 行為監控的平台將獲得更高採用率。觸發條件為觀察到至少兩家主要雲端供應商或企業軟體廠商,在 2027 年 1 月 13 日前發布的更新中,將「AI Agent 執行階段治理」列為首要新功能或主要行銷賣點,而非僅強調模型參數或速度。反證條件為若市場主流產品仍僅以 Token 價格或推理速度作為主要競爭指標,且未見顯著的安全治理功能整合,則此判斷不成立。回顧日 2027-01-13。 基準為 Apple 針對 Meta Muse 讀取私訊事件,宣布收緊 macOS 對應用程式「完全磁碟存取」的監管機制,要求必須透過明確用戶操作才能取得高權限。預測在 90 天內,主流作業系統將強制實施「最小權限原則」於 AI Agent 架構,導致依賴全域資料讀取的本地端 AI 助理功能被大幅限制或需重新設計架構。觸發條件為在 2027 年 1 月 13 日前,Apple 或 Microsoft 發布新的作業系統安全白皮書或更新,明確規定 AI 代理程式必須透過沙盒或特定 API 存取資料,禁止直接讀取使用者檔案系統。反證條件為若主要科技廠商仍允許 AI 助理以預設高權限運行,或未對資料存取進行更細粒度的技術性限制,則此判斷不成立。回顧日 2027-01-13。

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。