Token-efficient tool use

原文

"Token-efficient tool use" 是 Anthropic 在工具调用里提出的一个关键优化方向,尤其是在 Claude Code/Claude Agent SDK 。简单说,它是指 在调用外部工具时,尽量减少无谓的 token 消耗,同时保持任务完成的可靠性和覆盖度

大模型调用外部工具时,需要:

  1. 把上下文转成 prompt 传给模型。
  2. 把工具调用的输入/输出 包装到 prompt 或结果里再交给模型处理。

这些步骤往往会产生很多额外 token 消耗。例如:

  • 如果直接把整段长日志/大文件塞进上下文,会造成巨额 token 使用。
  • 工具输出如果不做摘要,原样回传,也会挤占上下文。

Claude 的做法

Claude 在"token-efficient tool use"上做了几类优化:

  1. 工具调用的上下文裁剪与摘要

    • 不是盲目把原始结果塞进 prompt,而是先用 grep/tail 等轻量脚本提取相关片段,或者先用小模型做 summarization,再把精简过的结果传回 Claude。
  2. 分块与按需加载

    • 例如面对一个大文件,Claude 会决定只加载开头/结尾的若干行,或者用 semantic index 按需检索,而不是一次性全读。
  3. 延迟解析与流式交互

    • Claude 会先发起最小化的工具调用,如果结果不足,再逐步扩展。这比"一口气加载所有内容"更省 token。
  4. 结果封装格式的优化

    • 工具返回的数据通常会用紧凑的 JSON 或表格结构,而不是长篇自然语言,便于 Claude 在后续 prompt 中高效使用。
相关推荐
yaocheng的ai分身4 小时前
【转载】我花了太多时间整理 Claude Code 工具:这是我找到的所有内容
claude
302AI5 小时前
Sonnet 4 平替?Claude Haiku 4.5 实测杀疯了:性能不输,价格砍半
llm·claude
蛋先生DX6 小时前
AI 友好的云开发 MySQL SDK 它来了!微信小程序能直连关系型数据库了
mysql·ai编程·小程序·云开发
薛晓刚6 小时前
AI好像除了不能解决业务问题,其他问题都能解决
ai编程
前端双越老师7 小时前
建议应届毕业生不要再做前端开发了
人工智能·面试·ai编程
华洛7 小时前
聊一下如何稳定的控制大模型的输出格式
前端·产品经理·ai编程
CaracalTiger1 天前
告别云端依赖!ComfyUI本地化视频生成实战教程+cpolar实战
python·gpt·开源·aigc·ai编程·1024程序员节·ai-native
CoderJia程序员甲1 天前
GitHub 热榜项目 - 日榜(2025-10-25)
ai·开源·github·ai编程·github热榜
飞哥数智坊1 天前
Cursor + CloudBase,两周闲暇时间做出我的“AI 碎片助理”
人工智能·ai编程
win4r1 天前
🚀程序员福音!学习新框架从此不用看文档?Skill Seeker让Claude成为你的技术导师,CrewAI、AutoGen、LangGraph随便上,自动生
aigc·claude·vibecoding