←新聞 7 / 9→

硬體基建

沒有 60GB 記憶體也能跑 120B 大模型!國外玩家串聯手機、Mac、Windows 成功實現

沒有 60GB 記憶體也能跑 120B 大模型!國外玩家串聯手機、Mac、Windows 成功實現

沒有 60GB 記憶體也能跑 120B 大模型!國外玩家串聯手機、Mac、Windows 成功實現

www.kocpc.com.tw · 2026-09-29

摘要

國外玩家透過串聯兩台 Windows 電腦、Mac 與手機等六台不同硬體設備,成功運行 120B 參數的大型語言模型。這項實驗證明了即使單機記憶體不足,也能透過分散式運算突破硬體限制,為低資源環境下的 AI 部署提供了新的技術思路。

●開發者:可關注分散式推理與硬體串聯技術

●投資人:邊緣運算與硬體協同領域值得留意

●一般用戶:未來或能體驗更輕量化的本地 AI 應用

重要性評分

67/100

🟠 值得關注

大語言模型分散式運算硬體串聯120B 模型低資源部署
原文出處
上一則← AMD 以逾 80 億美元收購 AI 公司 World Labs下一則HybridInfer:熱感知強化學習路由,優化端邊雲 LLM 推理 →

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。