Code & Chain · Signal Desk

Liquid AI 开源 LFM2.5-24B-A2B,主打装置端代理

原始來源Hugging Face補充:Unite.AI

摘要

Liquid AI 发布开源权重模型 LFM2.5-24B-A2B,总参数 240 亿但每代币仅启用 20 亿,目标是在装置端持续执行代理任务。官方称在 Apple M5 Max 上可达每秒 184 个代币,在支援的 GPU 上输出约每秒 21 个代币,并以 OpenAI 相容后端在本地运行以维持隐私。模型首日支援 llama.cpp、MLX、vLLM、SGLang 与 ONNX,并整合 Hermes Agent、OpenClaw、Pi 等代理框架,可在地端推理、呼叫工具并完成多步任务。权重与基础版本已在 Hugging Face 释出,另附本地部署与微调教学,托管推理定价为输入每百万代币…

重點整理

  • 开发者可在笔电或本地 GPU 上部署私有代理,避免云端成本与资料外流风险。
  • 想在本地跑代理且不愿把资料送上云的团队,可直接下载权重并用现成推理引擎部署。

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。