学习Agent开发 10.延迟工具 deferred tools

存在较多tools时 description和schema占据token很多 且模型输出的准确性会下降 在接入mcp时尤其明显 因此需要渐进式加载工具

Anthropic和openai默认提供了渐进式加载工具的能力 这是最优先的选择

如果存在需要调用其他模型的情况 agent也可以实现类似能力。初始tools为即时工具+tool_search(用于发现工具) 根据情况在系统提示词中对延迟加载的工具做简单描述

对于"模型如何调用新发现的工具"如何 一般有两种方式:

a. 发现的工具在后续模型调用时进入tools(qwen code实现)

b. tool_search返回工具名称和schema 统一通过DeferExecuteTool(toolname,params)进行调用 tools不改变 (workbuddy实现)

a的问题是状态机复杂 逻辑维护困难 无关工具可能导致工具集膨胀;b的问题是新tool非原生 且shcema被额外包装一层 更容易出错。可以根据场景取舍 如果需要根据领域 调用不同的mcp可以选择a 更加精确;如果新工具的schame相对简单 可以采用b 实现更简单 更不易出错。

相关推荐
hpoenixf3 小时前
金融 AI 最危险的“专业感”:数据是真的,数字却算错了
agent
冬奇Lab4 小时前
一次 Skill 评测的复盘:我推翻了一份现成的模型选型结论,然后自己造了个评测平台
人工智能·llm·agent
小虎AI生活4 小时前
给豆包和 Claude 派活总返工?把测试用例搬进提示词,前置验收清单一次交差
aigc·ai编程
abckingaa5 小时前
AI时代代码Review瓶颈分析
人工智能·ai编程·1024程序员节
Together_CZ6 小时前
Introducing Kimi K3.1 Pro——隆重推出 Kimi K3.1 Pro
llm·agent·强化学习·1024程序员节·kimi·kimi k3.1 pro·3t参数
ZhengEnCi6 小时前
AI Agent工具调用防护层怎么写-一份能直接跑的Python四层拦截实现
python·llm·agent
weixin_435208166 小时前
大模型面试宝典——大模型(LLMs)基础面
人工智能·自然语言处理·agent
楚国的小隐士6 小时前
从审核员到监工:AI正在重写评价体系,也重写人的价值
ai·编程·ai编程·哲学·马列主义
ZhengEnCi6 小时前
AI Agent工具误调用怎么解决-从参数校验到高危二次确认的四层工程防线
python·llm·agent
金銀銅鐵6 小时前
[Java] 用 GUI 展示 EnumSet 增减元素时的内部变化(下)
java·后端·ai编程