Llama.cpp 運行於破解版 PS5：在主機原生執行 GGUF 模型

破解版 PS5 原生運行 Llama.cpp 與 GGUF 模型

開發者把 Llama.cpp 移植到破解版 PlayStation 5，讓 GGUF 格式的 AI 模型能在主機上原生運行。專案名稱為 PS5LM，目標是讓擁有破解主機的用戶架設私有的家庭模型伺服器，不必依賴雲端服務或外部帳號。

硬體架構與效能表現

PS5LM 利用主機內建的 RDNA 2 GPU 執行 llama.cpp 的 Vulkan 後端，並用掉 11.4 GB 的共用記憶體來載入模型與上下文。系統支援 llama.cpp 所知的各種架構與量化格式。根據測試數據，在 PS5 Slim 上跑 Qwen 3.5 0.8B 模型（Q4_K_M 量化），生成速度可達每秒 207 個 token；跑 5.3 GB 的 Qwen 3.5 9B 模型，速度為每秒 55 個 token。9.2 GB 的 Qwen 3.8 27B 模型（UD-Q2_K_XL 量化）則能維持每秒約 20 個 token，並支援 64k 上下文。

除了語言模型，系統也支援決策模型。例如 d1 Omni 600M 模型只占 1.1 GB 空間，0.3 秒內可回答 3 個問題，處理一張 720p 影像加 7 個問題則需 2.9 秒。這些決策模型由 Ollaya 技術驅動，能讀取狀態，並透過一次前向傳播回答類型化問題，不需要生成文字。

API 整合與多平台支援

PS5LM 提供標準化的 API 介面，相容於 OpenAI 的 /v1/chat/completions 與 Anthropic 的 /v1/messages 端點。也就是說，用戶可以用 Claude Code 等工具直接連到主機。系統另外支援 TypeSafe 的 /v1/systemone 端點，用來處理選擇題、分數評估與是非題。用戶只要在瀏覽器或客戶端指向 http://<console>:8081，就能和已載入的模型互動。

方便測試的是，主機的電視畫面會即時串流顯示每個請求的來源裝置、詢問內容與回覆過程。用戶可用控制器按 Square 鍵發送示範請求，或按 Triangle 鍵開啟鍵盤輸入訊息。系統還有 Console 頁面，以圖表呈現過去兩分鐘或一小時內的溫度、功耗、GPU 與 CPU 負載數據。

模型管理與影像處理

PS5LM 內建規劃器，會自動讀取 GGUF 檔案，並根據剩餘記憶體選出最長的上下文與最佳的快取配置。系統提供「建議」列表，列出已在主機上實測過的模型，也支援從 Hugging Face 直接下載到內部儲存空間、M.2 擴充槽或 USB 隨身碟。對於具備影像投影功能的模型（如 Gemma 4、MiniCPM-V、d1），用戶可在聊天或決策模式中上傳圖片進行分析。

安裝條件與操作指南

要運行 PS5LM，用戶需使用韌體版本介於 7.00 至 13.60 之間的破解版 PS5，並載入特定的 Payload。必要組件包括 kstuff-lite（提供 homebrew 運行所需的核心修補）和 etaHEN（提供 homebrew 支援）。ShadowMountPlus 用來把 PS5LM 加到主畫面，同樣是必要項目。建議另外安裝 ftpsrv（連接埠 2121），方便從電腦複製應用程式與模型；也建議安裝 elfldr（連接埠 9021），以便透過 ps5-exporter 監控溫度、功耗與實際可用空間。

安裝時，先下載 ps5lm-app-vX.Y.Z.zip 並解壓縮，再用 FTP 把 PPSA99575 資料夾複製到 /data/homebrew。啟動後，用戶可從 Models 選單下載模型，或手動把 .gguf 檔案放到 /data/PS5LM/models，或 USB 的 PS5LM/models 資料夾。更新時只要覆蓋舊資料夾，設定與模型資料會保留在 /data/PS5LM。

技術背景與授權資訊

PS5LM 以 C++ 開發，介面使用 ps5-homebrew-ui，llama.cpp 搭配 ggml-vulkan 在 PS5_Vulkan 的 RADV 上執行，並建構於 Linux 環境。專案感謝 abhi245y 開發的 PS5LM Plus、Mihawk-99 提供的 PS5_Vulkan 與 RADV、PS5CEMU-HAR 提供的驅動修補，以及 BlackBearReloaded 與 John Törnblom 的貢獻。字型採用 Manrope，音效由 PocketVibe 提供。專案採用 GPL-3.0-or-later 授權，llama.cpp 維持 MIT 授權。PS5LM 與 Sony Interactive Entertainment 無隸屬關係，倉庫內也不含任何 Sony SDK 檔案、金鑰、韌體或模型權重。