NVIDIA Vera CPU 展現最高吞吐量與最快 AI Agent 效能

AI agents 做的事已經不只是生成答案：它們會搜尋資訊、查詢資料庫、編寫並測試程式碼，還會採取實際行動。這些步驟每一項都要靠 CPU 執行。任務進行期間，agents 會在 GPU 推理與 CPU 執行之間來回切換。因此，AI factories 需要能快速執行這些步驟的 CPU，也需要能同時支援大量 agents 的 CPU。然而，AI factories 的運作受限於可用電力。AI 基礎設施提供者要支援更多 agents，又不能讓每個 agent 多等才能完成工作。操作人員得選擇每瓦特能完成最多工作的基礎設施。

NVIDIA Vera 在單一 CPU 內同時提供快速的 agent 效能與高每瓦特容量。提供者因此能用同一款 CPU 處理各類 agent 工作負載，不必為了兼顧速度與容量，混搭快速型和高密度型的 x86 部件。在 100 兆瓦資料中心的比較中，NVIDIA 發現單一 Vera CPU 的表現優於最快的 x86 CPU。Vera 的 agent 速度居業界領先，與最快的 x86 CPU 相比，每瓦特可支援的 agents 數量多出 1.6 倍。此外，與最具能源效率的 x86 CPU 相比，Vera 的能源效率也領先。

合作夥伴已開始把 Vera 用在實際場景。早期採用者在生產風格的測試中，同樣看到出色的效能。Perplexity 用 Vera 執行 agent 編碼任務，速度比傳統 CPU 快 1.5 倍，並計劃在即將上線的生產系統中部署 Vera。DeepInfra 在生產 agent 工作負載的 agent 編排上，速度達到最佳 x86 處理器的 2.2 倍，是所測試的四種架構中最快的。

在資料庫與沙箱方面，ClickHouse 的標準二進位檔在沒有針對 Vera 特別調校的情況下，於 176 個核心上呈現近線性擴展，並登上 ClickBench 硬體排行榜。DuckLabs 的 TPC-H SF1000 效能約為 Intel Xeon 6 基準線中位數的 1.5 倍。Daytona 用 Vera 在 10.8 秒內讓 1,000 個 agent 沙箱上線，並在 2,000 個並行沙箱下達到每秒完成 12.7 個工作，x86 則需要 88.4 秒。Modal 的每核心沙箱吞吐量最高達可比較 x86 硬體的 2 倍，且負載越重，增幅越大。