NVIDIA 與 CoreWeave 合作推出 Vera Rubin NVL72 系統，加速 Agentic AI 生產環境部署

CoreWeave 在舊金山舉行的 Fully Connected 活動中宣布，其雲端服務已正式提供基於 NVIDIA Vera Rubin NVL72 系統與 Spectrum-X 102.4T Ethernet 網路的基礎設施。Cognition 成為首家在生產環境中運行 Vera Rubin 的客戶，該公司開發了 Devin AI 軟體工程師，並利用 CoreWeave 進行訓練、強化學習及生產推論。Cognition 在九個月內將 CoreWeave 的 GPU 規模擴展至數千張，並使用 FrontierCode 子集任務部署 AI 代理程式進行基準測試。

在效能表現方面，Cognition 的早期測試顯示，Vera Rubin NVL72 在 SWE-2 推論工作負載上的總 token 吞吐量較 GB200 NVL72 基線提升了高達 4.8 倍，這使得 Devin 能夠實現更快的即時程式碼生成及更靈敏的多步驟推理。Cognition 共同創始人 Silas Alberti 指出，Agentic coding 屬於複雜工作負載，涉及長上下文、高併發量及高 token 量，且 token 成本直接影響產品交付，因此 NVIDIA 與 CoreWeave 工程師的協同合作對解決這些難題至關重要。

除了 GPU 系統，CoreWeave 還推出了專為 AI Agent 設計的 CPU NVIDIA Vera。該 CPU 在單一機架中提供 128 顆 CPU 與 11,264 個核心，足以支援超過 11,000 個並行環境。透過 CoreWeave Sandboxes，這些環境在硬體上隔離，並由 Spectrum-X 乙太網路交換器與 BlueField-4 DPUs 確保低延遲的安全通訊。測試結果顯示，NVIDIA Vera CPU 的代理程式沙盒啟動時間提升了 3 倍以上，且在 Terminal-Bench 上所有通過任務的效能提升了 1.7 倍。

CoreWeave 同時推出了 CoreWeave Forge 平台，旨在整合模型訓練、評估與改進的連續循環。Forge 整合了 Weights & Biases、OpenPipe 的後訓練專業知識以及開源 marimo 筆記本專案。平台包含新發布的 CoreWeave ARIA，可分析運行數據並建議實驗；CoreWeave Agent Lens 則能將生產環境中的代理程式可觀測性轉化為改進洞察，使故障檢測率提升 20%，修復成本降低一半。此外，CoreWeave Sandboxes 現已全面可用，支援在隔離的 CPU 或 GPU 執行環境中運行代理程式、工具呼叫、強化學習及評估。

在後訓練方面，CoreWeave 提供無伺服器監督微調與無伺服器強化學習，後者相比自管設置，訓練速度提升 1.4 倍且成本降低 40%。NVIDIA Dynamo 開源推論框架驅動了 CoreWeave 的受管推論服務及處於私人預覽階段的 RL Rollouts，後者允許在運行中載入新檢查點，使強化學習無需重新部署即可繼續。Canva、Capital One 與 MasterClass 是首批在 Forge 上建構應用的公司，並利用 NVIDIA Nemotron 開源模型進行推理與多模態模型的客製化部署。

在醫療健康領域，Ennoble Care 選擇 CoreWeave 運行臨床 AI 推論，將使用保留的 NVIDIA RTX PRO 6000 GPU 容量來擴展臨床文件、決策支援及後台自動化的 AI 代理程式。CoreWeave 在每一輪 MLPerf 訓練與推論中均創下紀錄，並是唯一持有 SemiAnalysis ClusterMAX 1.0、2