Spring AI Alibaba示例代码(聊天记忆功能)

在AI对话应用中,聊天记忆功能让对话系统能够记住之前的交流内容,从而实现更自然的连续对话。就像你和朋友聊天时,朋友会记得你之前说过的话一样。

之前零基础使用didy里面,大模型里面有个聊天记忆的选项。那么这个功能spring ai alibaba怎么实现的呢。

为什么需要聊天记忆?

大语言模型(LLM)本身就像金鱼一样只有7秒记忆------每次提问它都会"忘记"之前的对话。如果你第一次告诉它"我叫张三",接着问"我是谁?",它无法回答"你是张三",因为它不记得之前的内容。

聊天记忆功能就是解决这个问题的,它让AI能:

  • 理解对话上下文(知道你们在聊什么)
  • 提供个性化回答(记住你的偏好和之前提供的信息)
  • 保持对话连贯性(像真人聊天一样)

Spring AI Alibaba的实现方式

Spring AI Alibaba通过"聊天记忆"(ChatMemory)功能来实现这一点,其核心思想很简单:把之前的对话内容保存下来,下次提问时一起发给大模型。

基本工作原理

  1. 存储对话历史:系统会把用户和AI的每轮对话都记录下来
  2. 关联对话:通过一个"对话ID"(conversationId)来区分不同用户的聊天记录
  3. 上下文拼接:下次提问时,自动把之前的对话记录和新的问题一起发给AI

这就像你和一个新朋友聊天时,每次对话都记在小本本上,下次聊天前先复习一下之前的记录,这样就能保持对话连贯了。

具体实现组件

Spring AI Alibaba中主要由以下几个部分协作实现聊天记忆:

  1. MessageWindowChatMemory:负责管理要保留哪些对话记录
  2. ChatMemoryRepository:实际存储对话记录的地方
  3. MessageChatMemoryAdvisor:自动把历史对话添加到新问题中的"小助手"

三种配置方式

Spring AI Alibaba提供了几种不同的配置方法:
1. 简单内存存储(适合开发测试): 这是最简单的实现方式,对话记录保存在程序内存中
2. 数据库存储(适合生产环境): 对于正式上线的应用,通常会使用数据库来持久化存储对话记录
3. 分布式存储(适合大型应用): 对于需要高可用性的场景,可以使用Redis这样的分布式存储

样例代码一探究竟

因为样例代码srping-ai-alibaba-chat-memory-example模块启动依赖redis和mysql,我们可以直接运行docker-compose文件夹下面的mysql和redis。

为了测试方便,windows可以安装docker desktop后启动容器后直接测试。

启动好容器后,修改模块aoolication.yml里面的redis和mysql配置即可进行测试。

样例代码提供了四个接口: InMemoryController、MysqlMemoryController、RedisMemoryController、SqliteMemoryController,文章就不做重复搬运工作了,我们可以分别调用接口里面的/call接口发送消息,/messages获取历史消息。其中mysql和redis存储的数据格式如下:

这里的conversationId就像是聊天室的房间号,系统通过它找到对应的历史记录。

redis存储的key末位为conversationId可直接查到所有的历史记录。

注意事项

  1. 记忆长度:不要设置太大,否则会消耗太多token(大模型按token收费)
  2. 记忆清理:长时间不用的对话可以设置过期时间
  3. 系统消息:系统消息(如AI角色设定)不会被自动清理

总结

Spring AI Alibaba的聊天记忆功能通过记录和重用历史对话,让AI对话更加自然连贯。无论是简单的内存存储还是复杂的分布式数据库,框架都提供了开箱即用的解决方案。选择适合你业务场景的实现方式,就能轻松为你的AI应用添加"记忆力"。

实际开发中,可以从简单的内存存储开始,随着业务增长再迁移到更稳定的数据库方案。Spring AI的模块化设计让这种升级变得非常简单

相关推荐
Warson_L11 小时前
独立开发推荐安装的skills
ai编程
threerocks12 小时前
一用一个不吱声的视频解析 Skill,你值得拥有
aigc·ai编程
吴佳浩13 小时前
AI 工程师知识地图:模型格式、框架、部署工具一次讲明白
人工智能·aigc·ai编程
青木_JS15 小时前
Headroom 是怎么给 Codex 省 Token 的:策略、效果与一次历史恢复记录
ai编程
MomentYY15 小时前
Temperature:AI 的“脑洞旋钮”
前端·llm·ai编程
小九九的爸爸16 小时前
前端想要入门Agent开发,要具备哪些Python基础?
python·agent·ai编程
AlbertZein16 小时前
别只盯着最强模型了,Agent 场景更该看这类 Flash 档模型
aigc·openai·ai编程
ZzT16 小时前
公司用 AI 筛简历,他写了个 AI 帮你挑公司
面试·aigc·ai编程
妙码生花16 小时前
从 PHP 到 AI + Golang,程序员自救转型手记(十四):眨眼小人登录页制作
前端·javascript·ai编程
妙码生花16 小时前
从 PHP 到 AI + Golang,程序员自救转型手记(十三):前端路由初始化
前端·javascript·ai编程