Google AI Edge Model Explorer 支援自訂 Edge 編譯器圖形除錯

Google AI Edge Model Explorer 支援自訂 Edge 編譯器圖形除錯

Google 於 2026 年 10 月 20 日宣布，Google AI Edge Model Explorer 現已支援自訂編譯器中繼表示法（IR），以及 TOSA、VGF、PTE 等開源適配器。這次更新是為了協助開發者除錯裝置端機器學習。它提供階層式圖形視覺化、分割視窗和節點追蹤覆蓋功能，讓工程團隊能清楚檢視執行圖，並準確找出延遲瓶頸。

邊緣部署的三大挑戰

機器學習模型需要在各種硬體上本地運行，範圍從低功耗邊緣裝置，到遊戲圖形及實體 AI 系統。要讓模型在這些目標上高效執行，必須經過量化、圖形降級、算子融合及硬體委派等編譯步驟。模型部署到邊緣硬體時，框架變更或算子限制可能改變匯出的執行圖。工程師通常得回答三個核心問題：圖形降級後，結構是否完整，有沒有出現非預期的算子（如額外的佈局轉置）；硬體委派是否完全轉移到 NPU 或 GPU，還是有不受支援的子圖回退到 CPU；以及哪些節點在降級後的圖形中佔用最多運算週期。

以往要回答這些問題，得閱讀原始 flatbuffers 或文字日誌，既耗時又費力，大型語言模型（LLM）和神經網路尤其如此。Arm 需要一款視覺化工具，用來檢查 Arm 特定的中繼表示法及硬體效能追蹤資料。

Arm 如何利用 Model Explorer 進行視覺化除錯

Arm 利用 Model Explorer 的階層式圖形視覺化及外掛架構，開發了多個開源適配器，讓邊緣模型的轉換過程更容易檢查。這些擴充功能可讓工程團隊驗證匯出管線、確認加速器委派，並直接在模型圖形上找出週期層級的效能瓶頸。

### 偵測 VGF 格式中隱藏的匯出回歸

Arm 工程師用 Model Explorer 驗證 PyTorch 訓練的 Neural Super Sampling（NSS）模型，該模型是透過 ExecuTorch Arm 後端匯出為 Vulkan ML Extensions VGF 檔案。檢查 VGF 圖形時，團隊發現 ExecuTorch Arm 後端的變更帶入了非預期的 TRANSPOSE 算子。Model Explorer 可以檢查模型圖形的個別節點，例如顯示算子屬性，以及與 SPIR-V 張量相連的 rescale 算子。Arm 團隊靠這項功能找出並解決回歸問題，不必手動分析原始日誌檔。

### 用分割視窗驗證 NPU 委派與 CPU 回退

為了優化 Vision 模型在 Arm Ethos-U85 NPU 等加速器上的表現，Arm 工程師用 Model Explorer 的分割視窗功能，並排比較 Ultralytics YOLO 模型的 CPU 與 NPU 委派圖形。分割視窗呈現出結構差異：CPU 圖形會顯示每個獨立層，NPU 圖形則把網路歸入量化與去量化節點之間的單一 EthosUBackend 區塊。對於 LiteRT 或 ExecuTorch 中只部分支援的模型，這個視窗有助於找出未委派的算子及被切開的子圖。

### 用節點追蹤覆蓋找出硬體瓶頸

為了找出 Ethos-U NPU 上的延遲瓶頸，Arm 在 Fixed Virtual Platform（FVP）模擬器上運行模型，並用 Model Explorer 的節點資料外掛，把週期準確的執行追蹤覆蓋到圖形上。彩色編碼的熱圖顯示，單一 TRANSPOSE 節點是主要的延遲瓶頸。

如何開始使用

開發者現在可以透過 PyPI 或 GitHub 取得 Google AI Edge Model Explorer 與 Arm 的開源適配器，在本地檢查並優化自己的裝置端模型。安裝 Model Explorer 後，再安裝適配器並啟動 Model Explorer，就能檢查對應的模型格式。

內建適配器包括 LiteRT、PyTorch 及 Hugging Face Transformers。Arm 提供的外掛適配器則有 TOSA、VGF 及 PTE。使用者可參考使用者指南，試用圖形導航及並排分割視窗等主要功能。

專案貢獻者

這些適配器與整合工作，由 Arm 與 Google AI Edge 團隊的貢獻者共同完成。Arm 工程師包括 Narumol Prangnawarat、Joshua Slater、Stefana Simion、Adam Hodson、Alona Enraght-Moony、Áron Virginás-Tar、Carey Williams、Gleb Vinnychenko、Hamza Arslan、Marco Domingo、Matthew Sloyan、Michael Mc Curtin、Mitch Bailey、Richard Burton、Robert Hughes、Robert Taylor 及 Tomás Agustín González Orlando。Google 工程師包括 Alan Ma、Eric Yang、Jing Jin 及 Na Li。產品經理為 Charlie Stokes（ARM）與 Derek Bekebrede。設計師包括 Ami Kubota、Ioannis Politis（ARM）、Kathleen Low 及 Philip Watson（ARM）。資深贊助者有 Bala Gattu（ARM）、Cormac Brick、Joe Alderson（ARM）、Matthias Grundmann 及 Sharbani Roy（ARM）。