新聞 5 / 8

產品發佈

Show HN: Needle2:僅 14MB 的端側 Agentic LLM,支援手機與機器人

Show HN: Needle2: 14MB agentic LLM for phones, wearables, smart home and robots

Show HN: Needle2:僅 14MB 的端側 Agentic LLM,支援手機與機器人

Hacker News · 2026-08-11

摘要

Cactus 團隊發布了 Needle2,這是一款體積僅 14MB 的 Agentic LLM,專為手機、穿戴裝置、智慧家庭設備、小型機器人及微控制器等資源受限的端側環境設計。該模型採用 4500 萬參數與 2bit 壓縮技術,僅需 28MB RAM 即可運行完整會話,並在 Raspberry Pi 5 上達到每秒 500 tokens 的解碼速度,顯示出極高的邊緣運算效率。

開發者:可探索極小體積模型在邊緣裝置的部署與優化

投資人:關注邊緣 AI 硬體與輕量級模型技術的商業潛力

一般用戶:未來手機與 IoT 設備可能具備更強大的本地化 AI 功能

重要性評分

67/100

🟠 值得關注

Agentic LLM邊緣運算Cactus端側 AIRaspberry Pi
原文出處
上一則Claude Agent 駭入健身房預約系統引發科技圈關注下一則EntropyMoE:基於熵感知的稀疏專家路由技術,優化無 Tokenizer 的 LLM

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。