阿凱📝 主編觀點 · 技術趨勢解讀 — 技術上發生什麼，為什麼重要，背後的原理是什麼
Nvidia 的真正敵人，不是 AMD，是它的客戶
OpenAI 剛確認跟 Broadcom 合作開發自家推論晶片，代號 Jalapeño。這件事本身不算意外，但把它跟其他公司排在一起看，就很有意思：Google 有 TPU、Apple 有 Neural Engine、SpaceX 在做自己的 AI 加速器，現在連 OpenAI 都進場了。老黃的最大挑戰，不是 AMD 的 MI300，而是他最肥的客戶們集體決定不再完全依賴他。
為什麼這件事現在發生？因為推論需求的結構變了。
訓練階段，你需要 H100 那種通用、強悍、能跑任何模型的怪獸。但推論階段不一樣——你很清楚自己的模型架構、批次大小、延遲容忍度，這時候專用晶片的效率可以遠勝通用 GPU。Google 的 TPU 就是最好的例子：拿來跑 Gemini 的 serving，成本比 H100 低得多，但你要拿它訓練新架構？吃虧。
OpenAI 選擇切入推論晶片，背後邏輯很直接：他們的 API 流量每個月都在爆，推論成本是現在最大的 margin killer。Jalapeño 如果能把每次 token 的電費壓低 30%，對 OpenAI 的財務影響是立即可見的，不用等下一代模型。
但這條路沒有那麼好走。Google 的 TPU 從 2016 年開始做，花了將近十年才真正跑順。訓練一支懂晶片架構的團隊，踩過 EDA 流程、tape-out、良率這些坑，是另一種維度的挑戰。OpenAI 過去是純軟體公司，現在要跨進半導體，這個轉型的代價不便宜。
Anthropic 目前沒有傳出自研晶片的消息，Meta 走的是另一條路——自己設計 MTIA 但還是大量買 Nvidia。各家策略不同，但方向一致：都在想辦法讓 Nvidia 在自己的成本結構裡佔比縮小。
Nvidia 現在面對的局面，有點像當年的 Intel：客戶愈大，就愈有動機自己造武器。老黃當然知道這件事，所以 Nvidia 最近推的 NIM 微服務、跟各家雲端的深度整合，本質上都是在加深軟體生態的黏性，讓你就算有了自家晶片，也還是得繼續用 CUDA 那套。
硬體自研是客戶的武器，軟體鎖定是 Nvidia 的護城河。這場拔河，短期內不會有輸家，但五年後的晶片市佔圖，肯定不長這樣。
