把最新开源的 2B 端侧模型接入 DeepSeek Harness,有点子神奇。

刚刚,面壁智能小钢炮又上新了。

新的端侧语言基础模型MiniCPM5-2B 正式开源。

之前介绍过 MiniCPM 系列的其他模型,截止 26 年 8 月,这个系列开源下载量现在已经突破 5000 万了

其它系列的模型介绍,感兴趣的可以去看 MiniCPM 主仓库,有相关介绍。

这个系列都是更高的智能密度,让大模型可以运行在手机、电脑等本地设备上。

这个刚开源的只有 2B 大小。

已经初具端侧通用 Agent 雏形,加入了工具调用、深度搜索和代码生成等能力,可以尝试处理更完整的任务。

Codex 这类 Agent 主要依赖云端大模型,能力更强。

端侧 Agent 则把模型运行在手机或你的电脑上。

它的价值是数据不用上传、断网也能工作,响应很快,也没有持续调用云端大模型 API 的费用。

目前 MiniCPM5-2B 已经实现了端侧通用 Agent 雏形。

我把这个 2B 模型接入了 DeepSeek Harness,用端侧模型跑 Agent,很神奇。

01

开源模型简介

MiniCPM5-2B 这款面向端侧运行和本地 Agent 场景的模型。

在全球 4B 参数以下模型中是领先的。

在 Artificial Analysis 的开源模型榜单中,MiniCPM5-2B 以 23 分排名第一,领先第二名的估算成绩 7 分。

也超过了多款 3B、4B 模型,有很强的参数效率。

下面是综合榜单评测成绩。

面壁智能团队在预训练、SFT 和大规模强化学习等阶段,都针对 Agent 任务进行了专项优化。

而且后面还会开源相应的训练流程哦。

目前相关的数据都开源了的:UltraData-Code、UltraData-SFT-Agent-2609、UltraData-RL-2609、UltraX。

这些数据包括对话、偏好对齐、数学和网页语料。

对端侧模型来说,数据质量会显著影响有限参数的利用效率与模型智能水平。

模型装不下无限的信息,训练数据就要尽量准确、清晰、有效。

同时 OpenBMB 也推出了两项强化学习技术:Meshy 让模型训练更灵活、更容易扩展。

JustRL II 通过筛选更合适的训练数据、更细致地判断推理中每一步的好坏,帮助 MiniCPM5-2B 学得更好。

02

2B 模型开始探索端侧通用 Agent

MiniCPM5-2B 的基础能力覆盖知识问答、数学与代码推理、长文本、多语言和复杂指令。

思考让它可以根据任务,在快速回答和深入推理之间切换。

它更大的变化在 Agent 能力上。

端侧 Agent 很适合处理敏感数据。

聊天记录、会议纪要、合同和邮件可以留在本地电脑中,上传云端可能会有隐私顾虑。

比如使用 DeepSeek Harness + MiniCPM5-2B 对本地会议纪要进行处理:

它也适合批量处理结构明确的任务。

试卷、简历或合同集可以拆分后交给多个本地 Agent 并行处理,也不会产生按云端 API 请求次数计费的调用成本。

比如使用 DeepSeek Harness + MiniCPM5-2B 对本地简历解析读取:

这些能力来自一套覆盖多个阶段的训练流程。

MiniCPM5-2B 针对 Agentic 预训练、监督微调和大规模强化学习进行了完整优化。

预训练阶段让模型接触工具和任务相关知识。

监督微调提供高质量的 Agent 操作轨迹。

强化学习继续调整模型在多步骤任务中的决策和执行表现。

03

如何使用和部署 MiniCPM5-2B

MiniCPM5-2B 是开源的。

你可以通过本文底部提到的 Hugging Face 或 GitHub 链接查看项目和部署说明。

想在个人电脑上快速体验,可以用 llama.cpp 或 Ollama

也可以进入到 Deepseek Harness 里面。

使用很简单,你直接把这下面这个提示词丢给 CodeX 或者 Claude Code 它会引导你一步步完成:

请在我的电脑上从零部署 DeepSeek Harness,并接入 ModelBest 的 MiniCPM5 2B 模型。模型网关地址:

api.modelbest.cn/v1

请你自动完成环境检查、安装、配置、启动和端到端测试。先通过 /v1/models 确认准确模型 ID,优先使用 MiniCPM5-2B,并设为默认模型。不要覆盖我已有的配置。

需要 API Key 时,引导我在本机安全输入,最后启动 dsh web,确认模型能够正常回答"你好",遇到错误请继续排查直到成功。

04

相关链接

开源项目地址(含模型与 UltraData 系列数据):

ruby 复制代码
Hugging Face:https://huggingface.co/collections/openbmb/minicpm5
GitHub:https://github.com/OpenBMB/MiniCPM
  • *

Meshy 框架开源链接和技术博客:

arduino 复制代码
- GitHub:https://github.com/OpenBMB/Meshy
- 博客:https://maydomain.notion.site/meshy-blog-zh

JustRL II 强化学习算法:

vbnet 复制代码
博客:https://panhaoxuan.notion.site/justrl-ii-small-llms-to-128k-reasoning-with-a-critic-cn
相关推荐
Boop_wu2 小时前
[redis] redis 快速入门
数据库·redis·github
m4Rk_4 小时前
【论文阅读】Agent 记忆机制(63):SAMem——把经验记忆细化为带长期价值的状态—Thought
论文阅读·人工智能·学习·开源·github
海盗12344 小时前
AI 新闻日报 2026-09-07:GitHub 多模型编排、OpenClaw 2.0 多智能体、人形机器人破人类纪录
人工智能·机器人·github
u1301304 小时前
GitHub 热榜项目:日榜(2026-09-07)
github
QUOR5 小时前
ZorvAI 可视化小卡片:七层自研 Canvas 渲染引擎架构全解析
github
可乐ea5 小时前
一个任务一条「模型流水线」:GitHub HydraFusion 多模型运行时编排拆解
github·ai智能体·agent架构·多模型编排·大模型路由
程序员柒叔5 小时前
Dify -- 定时任务系统
人工智能·github·agent·dify·rag
阿里嘎多学长7 小时前
2026-09-07 GitHub 热点项目精选
开发语言·程序员·github·代码托管
峰向AI19 小时前
告别 API 费用! 这个开源工具让你的 AI 助手在本地运行
github