Code & Chain · Signal Desk

Liquid AI 開源 LFM2.5-24B-A2B,主打裝置端代理

原始來源Hugging Face補充:Unite.AI

摘要

Liquid AI 發布開源權重模型 LFM2.5-24B-A2B,總參數 240 億但每代幣僅啟用 20 億,目標是在裝置端持續執行代理任務。官方稱在 Apple M5 Max 上可達每秒 184 個代幣,在支援的 GPU 上輸出約每秒 21 個代幣,並以 OpenAI 相容後端在本地運行以維持隱私。模型首日支援 llama.cpp、MLX、vLLM、SGLang 與 ONNX,並整合 Hermes Agent、OpenClaw、Pi 等代理框架,可在地端推理、呼叫工具並完成多步任務。權重與基礎版本已在 Hugging Face 釋出,另附本地部署與微調教學,託管推理定價為輸入每百萬代幣…

重點整理

  • 開發者可在筆電或本地 GPU 上部署私有代理,避免雲端成本與資料外流風險。
  • 想在本地跑代理且不願把資料送上雲的團隊,可直接下載權重並用現成推理引擎部署。

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。