作者:如漫
让 Agent 排查一次故障、审一份合同,或者改一段代码。用户看到的,往往只是开头的一句话和最后的结果。而在用户看不到的这段过程中,Agent 可能已经工作了几十分钟,多次调用模型和工具、读取大量上下文,也可能在某个步骤反复尝试。
任务完成后,你可能还想知道:时间和 Token 主要花在哪一步?如果一次任务比平时更慢、用量更高,是任务本身复杂,还是上下文过长、工具返回内容过多?用量高不一定意味着浪费,只有先确认消耗发生在哪些环节,才能判断是否需要调整。
越来越多企业让 Codex、Claude Code、DeepSeek Harness 等 Agent 通过 AI 网关访问模型。Agent 一多,模型接口的汇总数据只能回答"用了多少",却很难说明这些用量来自哪个 Agent、对应哪项任务和哪一轮。
阿里云 AI 网关 Serverless 版新上线的 Agent 管理功能,可将原本按模型接口汇总的用量细分到各个 Agent,并提供相应的智能洞察。 还可查看每个 Agent 的会话用量,并定位到具体的 Session、Turn 和模型调用。这样,时间和 Token 消耗就能对应到各个 Agent 和任务。再结合任务结果调整模型选择、上下文或 Agent 的工具调用流程,并观察调整后的用量变化,持续优化成本。
同一个模型接口,到底是哪些 Agent 在使用?
企业里的 Agent 往往来自不同的工具和平台。研发在用编程助手,业务应用接入了智能问答,也可能有针对特定任务开发的 Agent。它们最终可能共用同一个 Model API。如果只看接口的总请求量,很难分清这些调用分别来自哪里。
Agent 管理先为这些 Agent 建立统一、可识别的身份,让原本汇总在模型接口上的用量能够归属到各个 Agent。目前已支持 Claude Code、Codex、DeepSeek Harness、百炼、Dify 等主流 Agent 类型,也支持自定义 Agent,便于将已有工具和应用纳入统一管理。

图 1:支持主流 Agent 类型及自定义 Agent
明确 Agent 身份后,还要了解其调用关系:对外为哪些调用方提供服务,通过哪些 Model API 访问模型,以及相关消费者、策略和插件如何关联。Agent 管理将这些关系集中呈现,并按 Agent 类型和配置展示对应的访问能力。查看用量时,也能结合这些调用关系判断消耗来自哪里,而不再只看到模型接口的汇总数字。

图 2:Agent 拓扑,呈现对外服务与模型访问关系
看清每个 Agent 的用量与运行表现,让数据给出优化线索
一个 Agent 每天可能处理许多任务,调用不同模型,也服务于多个调用方。它今天一共消耗了多少 Token,主要用在哪些模型上,哪些调用方用量更高,整体响应是否稳定?这些问题要先从 Agent 的整体使用情况看起。
Agent 统计按日期汇总单个 Agent 的模型访问请求数、Token 消耗、错误率、Fallback 率和 P95 延迟,并分别展示模型、消费者、Token 类型和小时趋势等细分数据。一天内的整体用量和不同来源的消耗分布,都能在同一处查看。
智能洞察会归纳当天值得关注的用量和运行情况:哪个模型的 Token 占比明显高于请求占比,缓存输入占了多少,错误是否集中在某个调用方,少数慢请求是否拉长了等待时间。统计呈现整体数据,洞察则标出需要重点分析的消耗和运行情况。

图 3:单个 Agent 的整体用量统计与每日智能洞察
查看 Agent 的整体统计后,可以锁定需要关注的模型、调用方或时段,再进入会话,确认消耗对应的任务和环节,有针对性地调整模型、上下文和调用流程。
从会话到模型调用,把 Agent 消耗逐层拆开
AI 网关的会话用量统计既展示整体用量分布,也按会话、轮次和模型调用列出 Token、耗时与结果。
Agent 的整体统计只能显示消耗分布;要了解一项任务,还需按 Session、Turn 和 Model Call 三个层级查看明细。Session(会话)是一段持续的交互,可以包含多轮对话;Turn(轮次)通常指一次用户输入触发的处理过程;Model Call(模型调用)则是其中一次向模型发起的请求。同一轮中,Agent 可能多次调用模型,并在调用之间执行工具。

图 4:Session、Turn 与 Model Call 的层级关系
哪些会话消耗高、耗时长?
会话用量统计按这三个层级展示。Session 大盘展示 Token、Credits 和会话耗时的 P50、P90,并列出高用量、长耗时的 Session,帮助定位需要重点分析的会话及相关消费者。

图 5:会话用量统计-会话大盘
会话列表逐条展示所选日期内的会话,支持按消费者筛选,也可以通过会话名称或 ID 搜索。每条记录列出 Token、Credits、缓存命中率、工具调用数量、模型调用总耗时和会话总耗时,便于对比不同任务的消耗,并进入会话详情查看各轮次和模型调用。

图 6:会话列表,按日期与消费者查看、筛选会话用量
一次会话的消耗,具体花在哪?
会话详情按会话、轮次和模型调用三个层级展示用量数据。
详情页汇总会话的 Token、Credits、缓存命中率、工具调用次数和耗时,并展示各轮次的用量分布与排行。展开某个轮次,还能查看每次模型调用的用量、耗时和结果,从而确认会话的整体消耗分别来自哪些调用。

图 7:会话详情把一次任务拆到各个处理轮次
进入某一轮后,可以查看其中每次模型调用的信息:使用了哪个模型,输入和输出各有多少 Token,是否成功,结束原因是什么,首 Token 延迟和总耗时分别是多少。

图 8:同一轮里的模型调用,可以分别查看结果、Token 与耗时
从看清消耗开始,用好 Agent
阿里云 AI 网关多租版(Serverless)已上线 Agent 管理功能,支持 Agent 接入管理、整体用量统计与智能洞察,并提供会话、轮次和模型调用级的精细化观测。专享版网关的 Agent 管理能力将在后续上线。
Agent 正从个人工具进入企业办公与生产场景,观测视角也需要从个人使用扩展到团队整体。相比侧重本机或个人用量的终端观测,AI 网关能汇总经由网关接入的模型调用,按 Agent、消费者等维度统计和分析,看清不同使用方的消耗分布与运行表现。这既满足个人查看具体任务的需要,也为企业和团队提供整体用量视角,再结合会话明细,为模型选择、上下文管理和工具调用等 Harness 过程的优化提供依据。
现在就通过阿里云 AI 网关接入日常使用的 Agent,让真实任务的用量与运行表现成为优化的起点。看清每一项消耗的归属,找准值得优化的方向,让 Agent 在办公与生产中的持续使用有数据支撑。
-
进入阿里云 AI 网关控制台,使用 Agent 管理与观测
-
查看操作指引:Agent 管理、接入与观测
点击此处获取价值 400 元的 AI 网关免费试用(限 AI 网关新客)。