大模型应用开发--2--AGENT问题

1 agent三层记忆系统原理和实现

  • 工作记忆
  • 短期记忆
  • 长期记忆

2 skill三层渐进式披露架构原理和实现

3 工具调用失败怎么处理

主要有以下四种失败原因:

  • i参数错误,这是LLM自身问题。特征是工具返回参数校验失败、JSON解析失败。
    解决方案:不能用原来参数无脑重试,而是要把具体的错误信息连同原来的调用一起会送给LLM,让其自己修正参数。有了这个机制,超一半的参数问题都可解决。
  • ii 临时服务错误,这是基础设施问题。比如:网络超时、409限流、503服务不可用。
    解决方案:用指数退避重试就可以,第一次等于1s,第二次2s,第三次4s,保持参数不变,因为问题出在服务端而不在LLM。
  • iii 空结果和无用结果,工具执行成功了,单返回了空列表或者nod data。
    解决方案:让LLM重新生成一个更宽泛的查询条件,而不是重复原来的查询。比如:
    原来查"2025年3月保单"没结果,就让它改成查2024年的保单"
  • iv 永久性错误。比如:401权限不足,404工具不存在。
    解决方案:这种重试没有任何意义,直接终止,给用户一个友好的提示即可。
相关推荐
程序员龙叔11 小时前
编写高质量 Skill 系列 -- 如何设计需求分析与用例生成的 SKILL
自动化测试·软件测试·python·软件测试工程师·接口测试·性能测试·skill·ai测试
用户83562907805114 小时前
使用 Python 操作 Word 内容控件
后端·python
码云骑士15 小时前
32-慢查询排查全流程(下)-索引优化实战与最左前缀原则
python
闵孚龙16 小时前
《PyTorch 深度修炼》Dataset 和 DataLoader:数据如何喂给模型
人工智能·pytorch·python
goldenrolan16 小时前
A公司物料替代测试系统 v1.7:从需求到 exe/apk 的 AI 辅助全链路实践
android·自动化测试·软件测试·python·ai
菜板春16 小时前
jupyter入门-手册-特征探索
python·jupyter
Metaphor69216 小时前
使用 Python 将 PDF 转换为 HTML
python·pdf·html
极光代码工作室17 小时前
基于数据仓库的电商数据分析平台
大数据·hadoop·python·spark·数据可视化
开发小能手-roy17 小时前
StringBuilder vs StringBuffer:2024年还需要线程安全字符串吗?
开发语言·python·安全