AI 已具備開發自身推理硬體的能力

openTPU 是由 AI 開發的開源 AI 加速器專案，旨在驗證 AI 代理在硬體設計上的極限，確認其能否構建運行自身推理的晶片。該專案將 SystemVerilog 硬體設計、指令集、位元精確模擬器、核心語言與編譯器，以及驅動實體 PCIe 卡的主機軟體，全部整合於單一小型 monorepo 中，並採用 Apache License 2.0 授權。

硬體實作運行於 Inspur YPCB-00338 卡，採用 Xilinx Kintex-7 xc7k480t 與兩個 DDR3 通道，使用 DDR3-1066，峰值頻寬為 17.1 GB/s。機器架構刻意保持簡單，無快取與隱藏排程，每個資料移動皆為指令。其包含一個 DMA 單元、一個從 DRAM 串流讀取 int8 權重的矩陣單元、一個進行 fp32 數學運算的向量單元，以及一個將結果轉回 int8 的量化器。矩陣單元為四列脈動陣列，時脈為 133.33 MHz，並能與模擬器逐位元匹配。

效能測試涵蓋 LFM2.5-230M、Qwen3-0.6B、Qwen3.5-0.8B、Gemma 4 E2B、LFM2-2.6B、SmolLM3-3B、Phi-4-mini (3.8B) 及 Qwen3.5-2B/4B 等模型。