Spring AI Alibaba示例代码(聊天记忆功能)

在AI对话应用中,聊天记忆功能让对话系统能够记住之前的交流内容,从而实现更自然的连续对话。就像你和朋友聊天时,朋友会记得你之前说过的话一样。

之前零基础使用didy里面,大模型里面有个聊天记忆的选项。那么这个功能spring ai alibaba怎么实现的呢。

为什么需要聊天记忆?

大语言模型(LLM)本身就像金鱼一样只有7秒记忆------每次提问它都会"忘记"之前的对话。如果你第一次告诉它"我叫张三",接着问"我是谁?",它无法回答"你是张三",因为它不记得之前的内容。

聊天记忆功能就是解决这个问题的,它让AI能:

  • 理解对话上下文(知道你们在聊什么)
  • 提供个性化回答(记住你的偏好和之前提供的信息)
  • 保持对话连贯性(像真人聊天一样)

Spring AI Alibaba的实现方式

Spring AI Alibaba通过"聊天记忆"(ChatMemory)功能来实现这一点,其核心思想很简单:把之前的对话内容保存下来,下次提问时一起发给大模型。

基本工作原理

  1. 存储对话历史:系统会把用户和AI的每轮对话都记录下来
  2. 关联对话:通过一个"对话ID"(conversationId)来区分不同用户的聊天记录
  3. 上下文拼接:下次提问时,自动把之前的对话记录和新的问题一起发给AI

这就像你和一个新朋友聊天时,每次对话都记在小本本上,下次聊天前先复习一下之前的记录,这样就能保持对话连贯了。

具体实现组件

Spring AI Alibaba中主要由以下几个部分协作实现聊天记忆:

  1. MessageWindowChatMemory:负责管理要保留哪些对话记录
  2. ChatMemoryRepository:实际存储对话记录的地方
  3. MessageChatMemoryAdvisor:自动把历史对话添加到新问题中的"小助手"

三种配置方式

Spring AI Alibaba提供了几种不同的配置方法:
1. 简单内存存储(适合开发测试): 这是最简单的实现方式,对话记录保存在程序内存中
2. 数据库存储(适合生产环境): 对于正式上线的应用,通常会使用数据库来持久化存储对话记录
3. 分布式存储(适合大型应用): 对于需要高可用性的场景,可以使用Redis这样的分布式存储

样例代码一探究竟

因为样例代码srping-ai-alibaba-chat-memory-example模块启动依赖redis和mysql,我们可以直接运行docker-compose文件夹下面的mysql和redis。

为了测试方便,windows可以安装docker desktop后启动容器后直接测试。

启动好容器后,修改模块aoolication.yml里面的redis和mysql配置即可进行测试。

样例代码提供了四个接口: InMemoryController、MysqlMemoryController、RedisMemoryController、SqliteMemoryController,文章就不做重复搬运工作了,我们可以分别调用接口里面的/call接口发送消息,/messages获取历史消息。其中mysql和redis存储的数据格式如下:

这里的conversationId就像是聊天室的房间号,系统通过它找到对应的历史记录。

redis存储的key末位为conversationId可直接查到所有的历史记录。

注意事项

  1. 记忆长度:不要设置太大,否则会消耗太多token(大模型按token收费)
  2. 记忆清理:长时间不用的对话可以设置过期时间
  3. 系统消息:系统消息(如AI角色设定)不会被自动清理

总结

Spring AI Alibaba的聊天记忆功能通过记录和重用历史对话,让AI对话更加自然连贯。无论是简单的内存存储还是复杂的分布式数据库,框架都提供了开箱即用的解决方案。选择适合你业务场景的实现方式,就能轻松为你的AI应用添加"记忆力"。

实际开发中,可以从简单的内存存储开始,随着业务增长再迁移到更稳定的数据库方案。Spring AI的模块化设计让这种升级变得非常简单

相关推荐
MobotStone10 小时前
你以为AI在思考?其实90%在搬砖!
ai编程
Goboy11 小时前
消消乐游戏:Trae 轻松实现色彩缤纷的消除乐趣
ai编程·trae
Goboy11 小时前
纸牌接龙:Trae 轻松实现经典纸牌挑战
ai编程·trae
这人是玩数学的13 小时前
在 Cursor 中规范化生成 UI 稿实践
前端·ai编程·cursor
coder_pig13 小时前
👦抠腚男孩的AI学习之旅 | 4、如何借助AI,高效学习,实现快速"跨域"
aigc·ai编程·cursor
bug菌15 小时前
还在为Java集成AI应用而头疼?Trae让你3分钟从小白变大神!
aigc·ai编程·trae
bug菌15 小时前
还在为Java Web后端开发而码字到深夜?Trae让你秒变全栈大神!
aigc·ai编程·trae
yangshuo128118 小时前
AI编程工具对决:Kilo vs Augment 开发Flutter俄罗斯方块游戏实战对比
flutter·游戏·ai编程
大志说编程19 小时前
LangChain框架入门17: 手把手教你创建LLM工具
python·langchain·ai编程
风云信步20 小时前
微软开源 GitHub Copilot VS code plugin 源码分析 (二) copilot-instructions.md 文件的应用逻辑
aigc·ai编程·cursor