magpie:让薅到的 AI 羊毛物尽其用

现在很多厂商都有免费的token可以领,但是都零散的分布在各个Agent或者 token plan 里面,把这些羊毛集中管理起来是我一直苦恼的问题。

最近在推特上 magpie 这个工具比较火,起初第一眼我不以为然,不就是本地其服务转发嘛,我自己写的配置文件完全没有用的必要。

但是随着热度越来越高,我的逆反心理就上来了。"我倒要看看你有什么本事。"抱着这个心态我越用越上头,因为是真好用。核心确实是把这些模型接到 Agent 上。供应商出模型,magpie 在中间收请求、再转发出去。

但是做到了两点特别好用:1. 把多个模型或账号并成路由组,一个用完就换一个不中断。2. 按任务分工,加意图规则,让不同的活找不同的模型。

本来东鳞西爪薅的羊毛都能及时用掉了!

言归正传我们来看看具体怎么用:

先把供应商加进来

去供应商页,把准备用的服务加上。这一步配的是模型从哪里来;哪个 Agent 用它,下一步再定。

给 Agent 选个模型

Agent 页里,本机装了或配置过的 Agent 各占一行,显示它当前用的模型。

一个组管几个模型

给 Agent 选定一个模型,接入就算完成。想用上其他账号的额度,或者希望当前模型答不了时有后备,才需要路由组。

路由组把多个模型或账号并成一个名字,Agent 像选单个模型一样选它,名字写成 group/<id>。其中一个答不了,就换下一个。

先建一个主力组

我的建议是先建一个主力编程组,配几条关键规则就够了。不必一上来就把所有组和规则配齐。

路由方式先选 smart 或 order:混用多个订阅、想少浪费额度,用前者;已经有明确的主力和备用顺序,用后者。

会话保持选 auto 或 session,长代码会话靠它留在同一个账号上,再考虑提示词缓存能不能复用。

主力组稳定之后,再按用途拆。

组 用途与分配思路
主力编程组 给 Claude Code 主会话或 opus 档使用,以强模型为主,用意图规则分流。
快速或子代理组 使用便宜、快速的模型,供 Explore、子代理或 haiku 档使用。
架构或审查组 选用更强的模型或另一个模型家族,例如 GPT / Astra,提供不同视角。
兜底组 使用免费或成本较低的模型,保留后备选择。

按规则把某类对话交给指定模型

一条规则能按对话长度、图片或推理要求来筛,也能限定来源 Agent、意图、压缩上下文或所在文件夹。条件可以叠加,所以「在 ~/work/acme 里,并且够长」这样的规则写得出来。

每来一条新消息,magpie 都从上往下检查规则。第一条命中的决定谁排在最前,其余成员做故障转移。一条都没命中,就按组本来的方式路由,并留在原来的账号上。

让不同的活找不同的模型

怎么看懂那条记录

路由页会显示每个组最近一次请求由谁回答,原因写在记录下面。

图中是一条要求写测试的消息。判断模型 964 毫秒后说是"writing or fixing tests",规则 2 就把 live/aihubmix/glm-5.3 排到第一。这条记录和上面的配置截图来自不同示例,模型和规则编号以各自的截图为准。

判断模型的调用记在用量页的 Agent magpie 名下,带 token 数和费用。想知道意图判断的开销,看这里。

几个常被问到的问题

magpie 要一直开着吗?

通过 magpie 用的模型,需要网关跟着应用一起跑。窗口关掉,magpie 还在菜单栏或托盘里。

怎么恢复原样?

在选择列表里选 Agent 自带的模型,或者运行 magpie <agent> default。magpie 会删掉自己写进去的东西,把你原来的值还回来,比如 ANTHROPIC_BASE_URL。

换了模型,Agent 还在用旧的?

已经在跑的会话,模型是启动时定下的。开个新会话。如果是 Codex,还要重启 Codex 应用。

从一个能用的组开始

先接入常用供应商,给一个 Agent 配好主力组,再按需要加备用模型。确认请求能正常完成、路由记录能看懂,再考虑拆快速组、审查组,或者加意图规则。

意图判断本身有开销。用量页能看到它值不值得留。常用任务先跑顺,再按实际使用调整分工。哪项配置真有用,这时候才看得清。

相关推荐
新知图书1 小时前
2.2 ROS 2功能包节点编写
人工智能·机器人
数科星球1 小时前
对话气核科技罗世豪:当AI能直接造出实物,下一轮创造革命才刚刚开始
人工智能·机器人
火山引擎开发者社区1 小时前
迎战双十一,如何让智能客服 Agent 经得起真实业务考验?
人工智能
mit6.8242 小时前
最近在读黑塞的《玻璃球游戏》-“ai预言“
人工智能
软件派2 小时前
MiniMax M3.1 Flash 高频业务落地实战指南
大数据·数据库·人工智能
麦豆GEO2 小时前
ToB企业GEO落地实战指南
大数据·人工智能
火山引擎开发者社区2 小时前
已升级!DeepSeek-V4.1-Flash-1017限时加量
人工智能
志尊宝2 小时前
AI原生前端开发(025):端侧AI实战项目:智能笔记助手
人工智能·笔记·ai-native