Code & Chain · Signal Desk

Hugging Face 推出 Llama Windows,把 llama.cpp 放进 Windows 系统匣

原始來源Hugging Face

摘要

Hugging Face 发布 Llama Windows,是一套免费开源的 Windows 11 系统匣应用,可在不需系统管理员权限的情况下本地运行 llama.cpp。用户可从 Hugging Face Hub 一键选择并下载模型,再透过内建网页介面载入与对话。主要特色包括不需终端机或建置步骤、自动管理 llama.cpp 伺服器(必要时自动安装)、原生支援 Windows on Arm,并整合 NVIDIA RTX Spark 以加速 GPU 使用。此应用是 macOS 版 llama.app 的 Windows 对应版本,程式码位于 ggml-org/Llama-Windows。安装…

重點整理

  • Windows 使用者可在不取得管理员权限的情况下部署本地模型,企业内部试用与教育场景更容易推广。
  • 官方说明此为 macOS 版 llama.app 的 Windows 对应版本。
  • 想在 Windows 上快速试用本地模型的用户,可免去终端机与建置环境设定的门槛。

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。