摘要
Liquid AI 發布開源權重模型 LFM2.5-24B-A2B,總參數 240 億但每代幣僅啟用 20 億,目標是在裝置端持續執行代理任務。官方稱在 Apple M5 Max 上可達每秒 184 個代幣,在支援的 GPU 上輸出約每秒 21 個代幣,並以 OpenAI 相容後端在本地運行以維持隱私。模型首日支援 llama.cpp、MLX、vLLM、SGLang 與 ONNX,並整合 Hermes Agent、OpenClaw、Pi 等代理框架,可在地端推理、呼叫工具並完成多步任務。權重與基礎版本已在 Hugging Face 釋出,另附本地部署與微調教學,託管推理定價為輸入每百萬代幣…
重點整理
- 開發者可在筆電或本地 GPU 上部署私有代理,避免雲端成本與資料外流風險。
- 想在本地跑代理且不願把資料送上雲的團隊,可直接下載權重並用現成推理引擎部署。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。