LlamaBarn：菜单栏应用，让你轻松在 Mac 上安装、运行并访问本地 LLM。

LlamaBarn 是一个小巧的菜单栏应用，让你轻松在 Mac 上安装、运行并访问本地 LLM。

• 从内置模型目录安装模型 — 仅显示可以在你 Mac 上运行的模型。
• 选择已安装的模型运行 — LlamaBarn 会自动配置并启动服务器，地址为 http://localhost:2276。
• 通过 API 或网页界面使用正在运行的模型 — 两者都在 http://localhost:2276。
• 底层 LlamaBarn 使用 llama.cpp，运行模型无需任何外部依赖。

使用场景

可连接任何支持自定义 API 的应用：

• 聊天界面，如 Chatbox 或 OpenWebUI
• 命令行助手，如 OpenCode 或 Codex
• 编辑器，如 VS Code 或 Zed
• 编辑器扩展，如 Cline 或 Continue
• 自定义脚本，可使用 curl 或 AI SDK 库

或者直接使用内置网页界面（http://localhost:2276）与正在运行的模型进行对话。

👉 https://github.com/ggml-org/LlamaBarn

🔗 查看链接 • 投稿/推荐/自荐 • Quick RSS • #238 • @jaywcjlove