Homa：想把 TCP 請出資料中心，AI 叢集的網路瓶頸卡在 1980 年代的設計

TCP 是 1980 年代設計的協議，今天你家 GPU 叢集裡幾萬張卡互相傳資料，很多地方還在用它。斯坦福大學教授提出的 Homa 就是衝著這件事來的，目標是取代 TCP 在資料中心通訊的主導地位。Homa 的主要作者是 John Ousterhout，就是寫出 Tcl 和 Raft 的那位。 TCP 的設計假設是兩台電腦之間先建立連線，然後送一條連續的位元組串流。資料中心的實際流量不長這樣。大量是小訊息，一個 RPC 請求、一次梯度同步，夾雜少數超大的資料搬運。TCP 的串流模型會讓小訊息卡在大傳輸後面排隊，這叫 head-of-line blocking。而 AI 訓練是同步的，一千張卡等最慢那一個封包，整個叢集就陪著空轉。 Homa 的做法是三個地方跟 TCP 反著來。第一，以「訊息」為單位，不是串流，也不用先建立連線。第二，由接收端決定誰可以送、送多快，避免交換器緩衝區被塞爆。第三，利用交換器本來就有的優先權佇列，讓短訊息插隊。比喻一下：TCP 像一條只有一個結帳櫃台的賣場，買一瓶水也得排在推三台推車的人後面；Homa 是開了快速結帳通道，還由收銀員決定下一位。 放到今天的背景特別有感。同一天 Google 的 MaxText 團隊在 TPU 上復現 Olmo 3 7B 預訓練，模型浮點運算利用率做到 57.4%，意思是硬體算力已經被壓榨到快一半以上都花在真正的運算上。算力端越做越滿，網路就越容易變成短板。GPU 一張幾萬美元，網路上每浪費一微秒，都是在燒這筆錢的折舊。 不過 Homa 要成功沒那麼簡單。TCP 的問題在於整個軟體生態都吃它：防火牆、負載平衡器、監控工具、各種函式庫。Homa 目前比較像是 Linux 核心模組，要換掉 TCP，得有雲端大廠願意在自己的叢集裡實測，而且 NVIDIA 自家的 InfiniBand 和 RoCE 也在搶同一塊地盤。 我的預測是，Homa 不會「取代」TCP，而是先在 AI 叢集這種封閉環境裡站穩腳跟，外面的世界繼續用 TCP。畢竟 40 年的老協議，退休得慢慢來。