cherrystudio及workbuddy配置本地模型

一、cherrystudio适配本地模型

1.1 看看本地能带动什么模型?

用llmfit工具:https://github.com/AlexsJones/llmfit/tree/main

到上面网站下载llmfit工具。具体的用法我就不介绍了,之前的文章里已经介绍过了。

我对应的下载版本如下:

运行后,这是我本地的支持模型的等级(有点太拉垮了):

qwen3.5:2b才是good,没办法,只能用下面这两种模型了:

  • qwen3.5:2b;
  • deepseek-r1:1.5b;

二、cherrystudio,mcp的filesystem怎么用?

2.1 安装filesystem

2.2 设置参数为具体目录

三、workbuddy设置本地模型

3.1 测试是否有效

从上图可以看到,失败了。报错内容:

复制代码
=== Error Report ===

--- User-Friendly Information ---
Message: 自定义模型 custom-local:deepseek-r1:1.5b 错误,请切换模型或重试。

--- Technical Details ---
Error Code: 10000
Request ID: 032e8cd0884347ecb33b33ee3582f706
Trace ID: 032e8cd0884347ecb33b33ee3582f706
Timestamp: 2026/09/28 23:36:53 (UTC+8)
Server Detail: {"code":-32603,"message":"Internal error","data":{"message":"{\"error\":{\"code\":400,\"message\":\"request (12984 tokens) exceeds the available context size (4096 tokens), try increasing it\",\"type\":\"exceed_context_size_error\",\"n_prompt_tokens\":12984,\"n_ctx\":4096}}","type":"invalid_request_error","param":null,"code":0,"details":"400 {\"error\":{\"code\":400,\"message\":\"request (12984 tokens) exceeds the available context size (4096 tokens), try increasing it\",\"type\":\"exceed_context_size_error\",\"n_prompt_tokens\":12984,\"n_ctx\":4096}} (be1e803b5cc9448dac24d219311c050a/b7a45dbd-31f4-445f-9f33-8b200fbef5a4)","statusCode":400,"category":"internal"}}
App Version: 5.5.6
User ID: ed9afe25-041a-4098-b88b-cc4cfcc546b4

复制错误到ai上去问一下:

可以得知:我的deepseek:1.5b模型上下文不够。

也就是:WorkBuddy 这次实际发给模型的内容约 11887 tokens,但当前模型可用上下文只有 4096 tokens。

后续换台机子,再研究布一个参数大一点的模型。

相关推荐
拆房老料1 小时前
【第四部分:Agentic 智能体设计模式】15.为什么 Agent 也需要设计模式
人工智能·设计模式·ai·ai-native
InternLM1 小时前
拓宽AI物理实验版图:上海AI实验室推出“书生SCP-Lab”,端砚自主实验能力再跃升
人工智能·ai·大模型·书生大模型·ai科研
goehou2 小时前
System Prompt 实战:从一段话到一份规格(附回归测试)
ai·llm·提示词·评测·system prompt
李航19832 小时前
SketchUp国产平替来了,功能非常接近,还有AI版本自动建模
人工智能·python·计算机视觉·ai·ai编程
书涵老师2 小时前
企业培训平台AI语音能力横评对比:AI制课与AI陪练的音色、情感及语种表现
ai·企业内部培训·ai制课
其实防守也摸鱼3 小时前
Codex 下载与本地部署实战指南
linux·服务器·前端·数据库·算法·ai
goehou3 小时前
模型网关实战:多模型路由、降级和成本对账的统一入口
网关·ai·llm·路由·成本
旖旎夜光3 小时前
【LangGraph实战】LangGraph 学习笔记(五):信息裁剪、人机交互与时间旅行
笔记·python·学习·ai·人机交互·langgraph