SpringAI

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录


前言

SpringAI的学习笔记


一、非重点前置

embedding:将一长串文本转换成多维向量,比如1024维,然后通过余弦不等式计算相似度,可以用于做推荐系统。相关不重要的资料,是将演员简介全部转换为向量,然后新用户点击后,寻找和他加权平均向量链值最接近的用户,推荐新用户没看过的,即用embedding实现协同过滤。

RAG:将知识库前篇后匹配用户问题,并返回

二、重点

1.手写RAG

1.chunk划分适中,设置为200-500,过大导致内容都在一个chunk,回答也集中在某个chunk,丢失细节;过小导致可能会丢失上下文信息

2.减小相似度,将更多的chunk返回给模型,或者topN多拿一些

3.手动获取相邻片段

2.RAG的API使用

分两种,一种就是questionAndAnswer,另一种可以带上下文RetrivalArgument

实际使用如果需要AI严格按照知识库来回答,还是要调小相似度,让尽可能多的chunk返回给模型,回答效果才能比较好。

3.MCP协议

如果有更换模型的考虑,可能在编写开始就要考虑遵循MCP协议。MCP协议是大模型和调用工具间的规范。

  1. 单机
    注:client端执行server端指定目录下的jar包,来实现调用

server端

client端

  1. 远程
    代码层几乎一样,只是修改了pom文件

总结

如果是刚开始,注意应该放在embedding和RAG,然后如果想要手写的工具能够被多个模型复用,就注意一下MCP,就这些。

相关推荐
递归尽头是星辰13 小时前
Java 智能体工程化:从 Spring AI 出发读懂 AgentScope
react·智能体·springai·javaai·agentscope
2601_962077712 天前
Spring AI企业级RAG落地实战:从基础架构到生产级高可用方案
知识库问答·rag·springai·企业级架构·高可用方案
武哥聊编程2 天前
【AI实战项目】AI Agent数据分析平台,基于SpringAI+Springboot+Vue+Agent的电商数据分析平台
人工智能·spring boot·数据分析·springai
武哥聊编程3 天前
【AI实战项目】基于SpringAI+Springboot+Vue的AI面试刷题训练平台
vue.js·人工智能·spring boot·springai
MinggeQingchun4 天前
AI - Java之SpringAI使用
ai·springai
爱吃土豆的马铃薯ㅤㅤㅤㅤㅤㅤㅤㅤㅤ4 天前
new AllMiniLmL6V2EmbeddingModel(); 相关方法介绍
springai
爱吃土豆的马铃薯ㅤㅤㅤㅤㅤㅤㅤㅤㅤ9 天前
model.onnx、tokenizer.json 文件介绍
springai
zhuodedao9 天前
Spring AI + MCP 文件工具未调用问题复盘:为什么初始化成功却没有写入文件?
java·debug·agent·springai·mcp
莫逸风1 个月前
【AgentScope 2.0】10-总结回顾详解
java·ai·agent·springai·agentscope
番茄炒鸡蛋加糖1 个月前
主流 AI 框架 + RAG 落地实战
人工智能·rag·springai