Token-efficient tool use

原文

"Token-efficient tool use" 是 Anthropic 在工具调用里提出的一个关键优化方向,尤其是在 Claude Code/Claude Agent SDK 。简单说,它是指 在调用外部工具时,尽量减少无谓的 token 消耗,同时保持任务完成的可靠性和覆盖度

大模型调用外部工具时,需要:

  1. 把上下文转成 prompt 传给模型。
  2. 把工具调用的输入/输出 包装到 prompt 或结果里再交给模型处理。

这些步骤往往会产生很多额外 token 消耗。例如:

  • 如果直接把整段长日志/大文件塞进上下文,会造成巨额 token 使用。
  • 工具输出如果不做摘要,原样回传,也会挤占上下文。

Claude 的做法

Claude 在"token-efficient tool use"上做了几类优化:

  1. 工具调用的上下文裁剪与摘要

    • 不是盲目把原始结果塞进 prompt,而是先用 grep/tail 等轻量脚本提取相关片段,或者先用小模型做 summarization,再把精简过的结果传回 Claude。
  2. 分块与按需加载

    • 例如面对一个大文件,Claude 会决定只加载开头/结尾的若干行,或者用 semantic index 按需检索,而不是一次性全读。
  3. 延迟解析与流式交互

    • Claude 会先发起最小化的工具调用,如果结果不足,再逐步扩展。这比"一口气加载所有内容"更省 token。
  4. 结果封装格式的优化

    • 工具返回的数据通常会用紧凑的 JSON 或表格结构,而不是长篇自然语言,便于 Claude 在后续 prompt 中高效使用。
相关推荐
后端研发Marion4 小时前
AI编程CLI编辑器技术对比分析:心流CLI vs OpenAI Codex vs Claude Code
编辑器·ai编程·codex·心流cli·cluade code
CoderJia程序员甲13 小时前
GitHub 热榜项目 - 日榜(2025-09-26)
ai·开源·github·ai编程·github热榜
哪吒编程14 小时前
重磅更新!Claude Sonnet 4.5发布,编程最强模型
ai编程·claude
飞哥数智坊15 小时前
Claude 4.5 升级解析:很强,但请别跳过“Imagine”
人工智能·ai编程·claude
魁首21 小时前
初识 MCP (Model Context Protocol)
claude·gemini·mcp
用户40993225021221 小时前
银行转账不白扣钱、电商下单不超卖,PostgreSQL事务的诀窍是啥?
后端·ai编程·trae
码农飞哥1 天前
AI编程开发系统001-基于SpringBoot+Vue的旅游民宿租赁系统
vue.js·spring boot·毕业设计·ai编程·计算机源码
Testopia1 天前
AI与敏捷开发管理系列3:敏捷方法在AI项目中的应用案例
人工智能·ai编程·敏捷流程·#人工智能学习
wifi歪f1 天前
🎨 探究Function Calling 和 MCP 的奥秘
前端·ai编程·mcp