10.会话记忆持久化

目录

一.目前存在的问题

1.正常情况下,大模型具有会话记忆功能

2.问一个问题,后端突然异常重启,再问下一个问题

二.分析上述现象的原因

1.大白话解释

2.解决办法

三.具体步骤

1.在项目中,配置redis环境

2.创建自定义类,实现ChatMemoryStore接口

3.编写自定义类的具体代码

4.配置一下我们自定义的类

四.效果展示

五.细节解读

1.为什么创建的东西,和注入的东西,貌似不是同一个?


一.目前存在的问题

1.正常情况下,大模型具有会话记忆功能

下图是正常状态下的情况,会话记忆功能可用。

2.问一个问题,后端突然异常重启,再问下一个问题

可见,如果两个问题之间,后端发生过重启,那么会话记忆将丢失,大模型也就不能根据上文揣测我们的意图。

二.分析上述现象的原因

1.大白话解释

原来是靠MessageWindowChatMemory实现的会话记忆,它往根上倒,是用一个List集合(消息对象组成的集合)来存储所有历史会话。而List集合是内存层面的,那项目重启肯定会导致list集合的内容消失啊,很简单的道理。

2.解决办法

要想历史会话重启后不消失,那就不能存在list集合中,而是存到数据库(就是所谓的持久化),这里我们打算存到redis中。

三.具体步骤

1.在项目中,配置redis环境

我们在之前文章讲过了,此处就不赘述

2.创建自定义类,实现ChatMemoryStore接口

注意:这三个方法的Object o,其实就是会话id(即messageId),因此改一个参数名比较好,把o改成messageId吧,防止后面不理解o是什么意思。

3.编写自定义类的具体代码

java 复制代码
@Repository
public class RedisChatMemoryStore implements ChatMemoryStore {
    //注入RedisTemplate
    @Autowired
    private StringRedisTemplate redisTemplate;


    //查询会话记忆
    public List<ChatMessage> getMessages(Object memoryId) {
        //1.获取会话记忆
        String json = redisTemplate.opsForValue().get(memoryId);
        //2.将json字符串转化成List<ChatMessage>
        List<ChatMessage> list = ChatMessageDeserializer.messagesFromJson(json);
        return list;
    }

    //更新会话记忆
    public void updateMessages(Object memoryId, List<ChatMessage> list) {
        //1.把list转成json数据
        String json = ChatMessageSerializer.messagesToJson(list);
        //2.把json数据存储到redis中(将会话消息,存入会话id为memoryId的存储对象,有效期为一天)
        redisTemplate.opsForValue().set(memoryId.toString(), json, Duration.ofDays(1));
    }

    //删除会话记忆
    public void deleteMessages(Object memoryId) {
        redisTemplate.delete(memoryId.toString());
    }
}

4.配置一下我们自定义的类

四.效果展示

下图表示,大模型的基本会话记忆功能依旧正常运行。

重启,再问相关问题

五.细节解读

1.为什么创建的东西,和注入的东西,貌似不是同一个?

先表明:是同一个!解释如下:

java 复制代码
// 你定义的类
@Repository
public class RedisChatMemoryStore implements ChatMemoryStore {
    // 实现接口
}

// 注入时使用的类型
@Autowired
private ChatMemoryStore redisChatMemoryStore;  // 注意:这里用的是接口类型!

关键点 :Spring 是根据 类型 来匹配 Bean 的,而不是根据变量名。

为什么能正常工作?

类型匹配原则:

  • Spring 容器中有且仅有一个实现了 ChatMemoryStore 接口的 Bean
  • 这个 Bean 就是 RedisChatMemoryStore 的实例
  • Spring 会自动将实现类的实例注入到接口类型的变量中

以上就是本篇文章的全部内容,喜欢的话可以留个免费的关注呦~~~

相关推荐
IT大白鼠6 天前
Redis 系列 · 第 01 篇——认知入门:Redis 是什么
redis·nosql
彧azz6 天前
Linux 环境下 Redis 学习总结:数据类型、持久化、锁、事务、主从与缓存问题
linux·redis·笔记·学习·面试
程序猿编码6 天前
告别改源码适配模型:纯 C++ 可配置 LLM 推理引擎,全格式全结构兼容
c++·大模型·llm·推理引擎
lbb 小魔仙6 天前
OpenClaw + cpolar 实战:远程 NAS、分享小游戏、RDP,再配置公网 AI 入口
数据库·人工智能·redis·oracle·prometheus
夕除6 天前
redis--018
redis
两锭子6 天前
Redis基础
redis
烟沙九洲6 天前
Redis 缓存穿透、缓存击穿、缓存雪崩
数据库·redis
字节探索6 天前
Redis 只会当缓存用?这 10 大实战场景,让你的系统快到飞起
redis·后端
蔡俊锋6 天前
华为昇腾 960 超节点发布:4096 卡、5500 个光引擎替 4.8 万光模块——国产算力拐点到了吗?
大模型·模型部署·ai架构·国产算力·华为昇腾
O。O蛋黄酥啊6 天前
Claude Code 记忆机制全拆解:Auto Memory 与 CLAUDE.md 双轨解析
大模型·agent·memory·claude·codex·记忆