把本地大模型接进 WorkBuddy：一条不消耗积分的离线推理链路 #WorkBuddy#

本文记录一次完整的配置过程：如何让 WorkBuddy 直接调用本机 Ollama 里的大模型。配好后，本地模型走本地算力，不再计入云端积分，定时任务、批量生成这类无人值守的活可以放心跑。

一、为什么折腾这件事

WorkBuddy 的模型选择里有一列倍率：快速 0.21x、均衡 0.65x、极致 1.20x，还有带"限时免费""夜间折扣"标记的 0.00x 模型。这个倍率就是积分消耗系数——同一个任务，选极致和选快速，积分差接近 6 倍。

日常高强度使用时，积分主要烧在两类地方：一是长任务每多一轮对话，整段历史都要重发给模型；二是定时任务每天自动跑，积少成多。

于是自然的想法就是：本机有显卡，能不能让一部分活走本地？查了一下，WorkBuddy 支持自定义模型，只要端点符合 OpenAI 兼容协议就能挂上去。本地模型不经过云端计费，倍率是 0。

下面是完整过程。

二、输入材料

硬件：一台 AMD Ryzen AI 7 H 350 的轻薄本，核显 Radeon 860M，统一内存架构，没有独显。这类机器跑 7B–20B 的量化模型是可行的，速度预期要放低。

软件：

• Ollama（本机模型运行时，默认监听 127.0.0.1:11434）
• LM Studio（可选，作为第二个端点，默认 127.0.0.1:1234）
• WorkBuddy 桌面端

本机已装的模型（ollama list 可见）：

三、WorkBuddy 配置

配置文件是 models.json，位置在用户目录下：

• Windows：C:\Users\<你的用户名>\.workbuddy\models.json
• macOS / Linux：~/.workbuddy/models.json

它是一个数组，每一项描述一个模型端点。下面是实测可用的完整配置，改掉模型名即可直接用：

[
  {
    "id": "qwen3.5:9b",
    "name": "Qwen3.5 9B (Ollama 本地)",
    "vendor": "Ollama",
    "url": "http://localhost:11434/v1/chat/completions",
    "maxInputTokens": 16384,
    "maxOutputTokens": 4096,
    "temperature": 0.3,
    "supportsToolCall": true,
    "supportsImages": true,
    "supportsReasoning": true,
    "useCustomProtocol": false,
    "reasoning": {
      "enabled": true,
      "maxTokens": 2048
    }
  },
  {
    "id": "gpt-oss:20b",
    "name": "GPT-OSS 20B (Ollama 本地)",
    "vendor": "Ollama",
    "url": "http://localhost:11434/v1/chat/completions",
    "maxInputTokens": 32768,
    "maxOutputTokens": 8192,
    "temperature": 0.3,
    "supportsToolCall": true,
    "supportsImages": false,
    "supportsReasoning": true,
    "useCustomProtocol": false,
    "reasoning": {
      "enabled": true,
      "maxTokens": 4096
    }
  }
]

几个字段值得单独说：

• id 必须和 ollama list 里的名字逐字一致，包括 :tag。写成 qwen3.5 少了 :9b 会调不通。
• url 指向 Ollama 的 OpenAI 兼容端点，路径是 /v1/chat/completions，不是 /api/chat。换成 LM Studio 就改端口为 1234。
• supportsToolCall 决定 WorkBuddy 会不会让这个模型去调文件读写、命令执行等工具。9B 及以下的模型工具调用稳定性一般，如果观察到它乱调函数，直接设成 false 更稳——纯对话任务不受影响。
• maxInputTokens 不要贪大。统一内存的机器上，KV cache 和实际权重抢的是同一块内存，20B 模型填到 32768 已经接近上限，再大容易 OOM。
• supportsReasoning + reasoning：带思考链的模型必须开，否则中间推理过程会混进正文输出里。
• useCustomProtocol：走标准 OpenAI 兼容协议就设 false。

四、操作步骤

第 1 步｜确认模型能跑

ollama run qwen3.5:9b "用一句话说明什么是量化"

能正常回话再往下走。这一步能提前排掉显存/内存不足的问题。

第 2 步｜验证端点可达

curl http://127.0.0.1:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen3.5:9b","messages":[{"role":"user","content":"hi"}]}'

返回 JSON 且带 choices 字段，说明 OpenAI 兼容端点正常。

第 3 步｜写入 models.json 用上面的配置，按需增删条目。文件原本可能不存在，新建即可。JSON 格式要严格，尾逗号会导致解析失败。

第 4 步｜无需重启 WorkBuddy 对该文件有 file-watch，保存后模型列表会自动刷新。切到对话界面的模型选择器，能看到刚加的本地模型出现在列表里。

第 5 步｜实测一个真实任务 选本地模型，让它处理一份本地文档或跑一段批处理。这时候观察两点：本机风扇/内存占用是否上来了（确认真在本地算），以及对话结束后去个人中心的积分明细里看，这条任务的消耗是不是没变。

第 6 步｜分工 我的用法是把活分成两类：需要人盯着、对输出质量挑刺的，用云端强模型；无人值守的定时任务、批量格式化、初稿生成，一律走本地。这样积分只花在刀刃上。

五、产出物与验证

配完的实际效果：

• WorkBuddy 模型列表里多了三个本地选项，可随时与云端模型切换
• 本地任务全程离线，断网也能跑
• 积分明细里对应任务无新增消耗