学习Agent开发 10.延迟工具 deferred tools

存在较多tools时 description和schema占据token很多 且模型输出的准确性会下降 在接入mcp时尤其明显 因此需要渐进式加载工具

Anthropic和openai默认提供了渐进式加载工具的能力 这是最优先的选择

如果存在需要调用其他模型的情况 agent也可以实现类似能力。初始tools为即时工具+tool_search(用于发现工具) 根据情况在系统提示词中对延迟加载的工具做简单描述

对于"模型如何调用新发现的工具"如何 一般有两种方式:

a. 发现的工具在后续模型调用时进入tools(qwen code实现)

b. tool_search返回工具名称和schema 统一通过DeferExecuteTool(toolname,params)进行调用 tools不改变 (workbuddy实现)

a的问题是状态机复杂 逻辑维护困难 无关工具可能导致工具集膨胀;b的问题是新tool非原生 且shcema被额外包装一层 更容易出错。可以根据场景取舍 如果需要根据领域 调用不同的mcp可以选择a 更加精确;如果新工具的schame相对简单 可以采用b 实现更简单 更不易出错。

相关推荐
后端小肥肠2 小时前
公众号漫画又挖到长尾赛道:家常菜美食,流量稳定长期有收益
人工智能·aigc·agent
泯泷3 小时前
从"检索管道"到"主动助理"——Agentic RAG 与双层记忆(五)
人工智能·llm·agent
泯泷5 小时前
AI Agent 的下一站:让世界主动来找它
人工智能·llm·agent
张一凡936 小时前
给 Coding Agent 加一道"架构闸门":Jin 是如何做到"先审架构、再写代码、不漂移"的
前端·后端·agent
ZzT6 小时前
Claude Code 连续压缩 3 次,丢掉 33% 到 57% 的用户指令;/compact 后加一段提示词降到 0
ai编程·claude
泯泷7 小时前
AI 社交的真问题:助理拥有“我”,平台拥有“别人”
人工智能·llm·agent
ZhengEnCi7 小时前
小白用 AI 做官网完全指南:不用框架的六格清单,双击就能打开
前端·html·ai编程
oil欧哟7 小时前
Anthropic 工程长文精译:如何构建有效的 AI Agent(工作流与自主边界)|Oil Book
aigc·ai编程
逐梦苍穹7 小时前
DeepInfer 推理框架源码精讲:逐行读 DeepSeek 开源的推理引擎(2 小时 20 分视频+文字版)
人工智能·开源·ai编程·deepseek·claudecode·deepinfer·deepseekinfer
svyee8 小时前
Win11 砍掉的磁贴,我用一个周末写了回来(1.3MB 开源了)
开源软件·个人开发·ai编程