統一邊緣 AI：Coral NPU 開放標準如何將智慧從模型帶到晶片

Google Research 於去年引入 Coral NPU，其核心理念為開放硬體與軟體標準是統一邊緣運算並提升開發者生產力與可移植性的唯一途徑。為實踐此理念，Coral NPU 採用基於標準的、機器學習優先的 RISC-V 架構，並搭配可靠的開源工具鏈。這種架構設計讓開發者能確信其模型能夠編譯並運行，使團隊只需優化一次模型，即可部署至不同的系統單晶片（SoC）供應商、裝置及功耗範圍。

在軟體與編譯器層面，Coral Compiler v1.0 基於 IREE/MLIR，是一個開源的端到端編譯器與模擬堆疊。該編譯器能將 JAX、PyTorch 和 TensorFlow 模型直接編譯至 Coral NPU 硬體目標。Coral NPU 擁有 32 位元架構，並已具備 v1.0 編譯器堆疊。完整的 32 位元 RTL（包括 Milestone 4 Matrix Execution Unit）、v1.0 IREE/MLIR 編譯器堆疊和 MPACT 模擬器可在 GitHub 上找到。

硬體架構方面，矩陣執行單元利用 RISC-V VME 規範，使用專用的外積乘法累加（MAC）引擎。每個週期可計算 256 個 MAC，並透過在本地暫存器中直接重用權重與激活值，實現二次方吞吐量擴展。此設計可配置為最高 1 TOPS 的效能。

在產品生態系方面，Synaptics 推出第二代 Astra SR200 系列微控制器晶片，內建 Coral NPU，其效能為 400 GOPS。新的 Synaptics Coralboard SR 開發套件由 Astra SR200 系列驅動，專為 MCU 級邊緣運算和實體 AI 應用的快速原型設計而設計。此外，Coralboard SR 開發套件已推出。

另一款產品 Coralboard SL（1 TOPS）已透過 DigiKey 在全球上市。Coralboard SL 由 Astra SL2619 處理器供電。該開發板具備 1 TOPS Torq™ / Coral NPU 子系統。Coralboard SL 將 transformer 和多串流視覺加速功能帶入基於 Linux 的 IoT 和機器人領域。Coralboard SL 的 SDK 和文件可在 Synaptics Coralboard Developer 頁面取得。Synaptics Coralboard SL 可在 DigiKey 訂購。

這兩個產品系列建立在相同的架構和編譯器基礎之上。Coral NPU 可為自訂邊緣 SoC 設計、ML 編譯器工作或將模型部署到穿戴裝置和機器人提供從模型到晶片的開放途徑。

關於未來發展，Coral NPU 正在進行下一階段的路線圖工作。該路線圖包括 64 位元 Coral NPU 架構。此外，路線圖也包含 CHERI 安全支援。

開發者可前往 developers.google.com/coral 取得 architecture guides、documentation 和 tutorials。