spring-ai 第十tool调用

spring-ai 第十tool调用

官网

工具调用(也称为函数调用)是AI应用中的常见模式,允许模型与一组API或工具互动,增强其功能

spring-ai网址https://docs.spring.io/spring-ai/reference/api/tools.html】

工具调用

  • 信息检索

从外部来源检索信息(弥补本地模型的不足,通过外网获取信息进行推理组织),eg: 检索最新的新闻文章

  • 采取行动

执行一个动作,例如调用一个API或执行一个命令,eg:填写网页上的表单

两种集成方式

特性 方法工具 (@Tool) 函数工具 (Function)
核心注解/接口 @Tool 注解 java.util.function.Function 接口
实现复杂度 简单,在任意 Bean 方法上加注解即可 相对繁琐,需要实现 Function 接口
状态管理 可以访问和依赖其他 Spring Bean 通常是无状态的,不适合依赖复杂服务
适用场景 广泛,尤其适合有状态的业务逻辑 简单的数据转换、计算等单一功能
推荐度 高,是更符合 Spring 习惯的声明式方式

核心价值与安全模型

  • 模型负责决策:LLM根据用户问题,判断需要调用哪个工具,并生成所需的参数。
  • 应用负责执行:你的Spring AI应用接收这个"调用请求",安全地执行对应的Java方法,然后将结果返回给模型。
  • 安全隔离:模型永远无法直接访问你的数据库、API密钥等内部资源,确保了系统的安全性

通过聊天获取最新新闻

60s API 开放平台https://docs.60s-api.viki.moe/】

源码示例

https://gitee.com/kcnf_open/spring-ai-sample/tree/master/spring-ai/spring-ai-sample09

  • 代码中重点 tool 关键字,如果匹配不到会直接跳过tool,直接llm

  • llm 选择 (model: glm-4-plus)

  • 完整链路(llm->通过关键字匹配优先执行tool进行数据库查询,再通过llm进行优化)

相关推荐
漂流瓶jz1 小时前
【AI】大模型本地部署与量化:Ollama、transformers、llama.cpp实践
人工智能·llm·ai编程
飞哥数智坊2 小时前
AI时代,我们到底该学什么、用什么,为什么还没提效?
人工智能
学长毕业设计2 小时前
基于SpringBoot的公益基金管理系统(源码+文档+讲解视频)
java·spring boot·后端
飞哥数智坊2 小时前
GPT 做架构,国内模型写代码:这条 AI 开发路线能跑通吗?
人工智能·ai编程
东小西2 小时前
【SAA实战】第 3 篇 · 工具调用全攻略:把业务能力交给 Agent 自己调度
java·后端·spring
东小西3 小时前
【SAA实战】第 4 篇 · Agent 短期记忆:saver 让 Agent 跨轮记得住(threadId 隔离)
java·后端·spring
许彰午3 小时前
22-DataCenter报文序列化
java·低代码·架构·状态模式
2601_962065253 小时前
[MySQL] SQL优化之性能分析
java·sql·mysql
AI_AGENT_DEV_AI3 小时前
AI 智能体的开发与上线
人工智能
VL——MOESR3 小时前
【具身智能】VLA论文阅读随笔
论文阅读·人工智能·机器学习·具身智能·vla