magpie:让薅到的 AI 羊毛物尽其用

现在很多厂商都有免费的token可以领,但是都零散的分布在各个Agent或者 token plan 里面,把这些羊毛集中管理起来是我一直苦恼的问题。

最近在推特上 magpie 这个工具比较火,起初第一眼我不以为然,不就是本地其服务转发嘛,我自己写的配置文件完全没有用的必要。

但是随着热度越来越高,我的逆反心理就上来了。"我倒要看看你有什么本事。"抱着这个心态我越用越上头,因为是真好用。核心确实是把这些模型接到 Agent 上。供应商出模型,magpie 在中间收请求、再转发出去。

但是做到了两点特别好用:1. 把多个模型或账号并成路由组,一个用完就换一个不中断。2. 按任务分工,加意图规则,让不同的活找不同的模型。

本来东鳞西爪薅的羊毛都能及时用掉了!

言归正传我们来看看具体怎么用:

先把供应商加进来

去供应商页,把准备用的服务加上。这一步配的是模型从哪里来;哪个 Agent 用它,下一步再定。

给 Agent 选个模型

Agent 页里,本机装了或配置过的 Agent 各占一行,显示它当前用的模型。

一个组管几个模型

给 Agent 选定一个模型,接入就算完成。想用上其他账号的额度,或者希望当前模型答不了时有后备,才需要路由组。

路由组把多个模型或账号并成一个名字,Agent 像选单个模型一样选它,名字写成 group/<id>。其中一个答不了,就换下一个。

先建一个主力组

我的建议是先建一个主力编程组,配几条关键规则就够了。不必一上来就把所有组和规则配齐。

路由方式先选 smart 或 order:混用多个订阅、想少浪费额度,用前者;已经有明确的主力和备用顺序,用后者。

会话保持选 auto 或 session,长代码会话靠它留在同一个账号上,再考虑提示词缓存能不能复用。

主力组稳定之后,再按用途拆。

组 用途与分配思路
主力编程组 给 Claude Code 主会话或 opus 档使用,以强模型为主,用意图规则分流。
快速或子代理组 使用便宜、快速的模型,供 Explore、子代理或 haiku 档使用。
架构或审查组 选用更强的模型或另一个模型家族,例如 GPT / Astra,提供不同视角。
兜底组 使用免费或成本较低的模型,保留后备选择。

按规则把某类对话交给指定模型

一条规则能按对话长度、图片或推理要求来筛,也能限定来源 Agent、意图、压缩上下文或所在文件夹。条件可以叠加,所以「在 ~/work/acme 里,并且够长」这样的规则写得出来。

每来一条新消息,magpie 都从上往下检查规则。第一条命中的决定谁排在最前,其余成员做故障转移。一条都没命中,就按组本来的方式路由,并留在原来的账号上。

让不同的活找不同的模型

怎么看懂那条记录

路由页会显示每个组最近一次请求由谁回答,原因写在记录下面。

图中是一条要求写测试的消息。判断模型 964 毫秒后说是"writing or fixing tests",规则 2 就把 live/aihubmix/glm-5.3 排到第一。这条记录和上面的配置截图来自不同示例,模型和规则编号以各自的截图为准。

判断模型的调用记在用量页的 Agent magpie 名下,带 token 数和费用。想知道意图判断的开销,看这里。

几个常被问到的问题

magpie 要一直开着吗?

通过 magpie 用的模型,需要网关跟着应用一起跑。窗口关掉,magpie 还在菜单栏或托盘里。

怎么恢复原样?

在选择列表里选 Agent 自带的模型,或者运行 magpie <agent> default。magpie 会删掉自己写进去的东西,把你原来的值还回来,比如 ANTHROPIC_BASE_URL。

换了模型,Agent 还在用旧的?

已经在跑的会话,模型是启动时定下的。开个新会话。如果是 Codex,还要重启 Codex 应用。

从一个能用的组开始

先接入常用供应商,给一个 Agent 配好主力组,再按需要加备用模型。确认请求能正常完成、路由记录能看懂,再考虑拆快速组、审查组,或者加意图规则。

意图判断本身有开销。用量页能看到它值不值得留。常用任务先跑顺,再按实际使用调整分工。哪项配置真有用,这时候才看得清。

相关推荐
stormzhangV9 小时前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程
花椒技术9 小时前
Genie 4 刷屏之后,AI 视频生成正在走向下一阶段
agent·ai编程·音视频开发
孟健10 小时前
用T3 Code手机远程控制Claude Code完成周报总结实测
开源·ai编程·claude
Bowen_J10 小时前
Apple Foundation Models:Apple AI核心框架
人工智能·ai编程·apple
IT_陈寒10 小时前
Redis那个过期删除策略,差点让我线上崩了
前端·人工智能·后端
ServBay10 小时前
Cursor披露恶意扩展,怎么守住本地 API Key
后端·ai编程·cursor
阿里云大数据AI技术11 小时前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能
字节跳动开源11 小时前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·开源·设计
IT规划师11 小时前
热点速递 | Agent 交付没人敢合?GitHub 榜在补验收
agent·ai编程
Bacon11 小时前
我把 Codex 塞进了 Touch Bar:一个 30pt 高的额度与对话面板
人工智能