10.会话记忆持久化

目录

一.目前存在的问题

1.正常情况下,大模型具有会话记忆功能

2.问一个问题,后端突然异常重启,再问下一个问题

二.分析上述现象的原因

1.大白话解释

2.解决办法

三.具体步骤

1.在项目中,配置redis环境

2.创建自定义类,实现ChatMemoryStore接口

3.编写自定义类的具体代码

4.配置一下我们自定义的类

四.效果展示

五.细节解读

1.为什么创建的东西,和注入的东西,貌似不是同一个?


一.目前存在的问题

1.正常情况下,大模型具有会话记忆功能

下图是正常状态下的情况,会话记忆功能可用。

2.问一个问题,后端突然异常重启,再问下一个问题

可见,如果两个问题之间,后端发生过重启,那么会话记忆将丢失,大模型也就不能根据上文揣测我们的意图。

二.分析上述现象的原因

1.大白话解释

原来是靠MessageWindowChatMemory实现的会话记忆,它往根上倒,是用一个List集合(消息对象组成的集合)来存储所有历史会话。而List集合是内存层面的,那项目重启肯定会导致list集合的内容消失啊,很简单的道理。

2.解决办法

要想历史会话重启后不消失,那就不能存在list集合中,而是存到数据库(就是所谓的持久化),这里我们打算存到redis中。

三.具体步骤

1.在项目中,配置redis环境

我们在之前文章讲过了,此处就不赘述

2.创建自定义类,实现ChatMemoryStore接口

注意:这三个方法的Object o,其实就是会话id(即messageId),因此改一个参数名比较好,把o改成messageId吧,防止后面不理解o是什么意思。

3.编写自定义类的具体代码

java 复制代码
@Repository
public class RedisChatMemoryStore implements ChatMemoryStore {
    //注入RedisTemplate
    @Autowired
    private StringRedisTemplate redisTemplate;


    //查询会话记忆
    public List<ChatMessage> getMessages(Object memoryId) {
        //1.获取会话记忆
        String json = redisTemplate.opsForValue().get(memoryId);
        //2.将json字符串转化成List<ChatMessage>
        List<ChatMessage> list = ChatMessageDeserializer.messagesFromJson(json);
        return list;
    }

    //更新会话记忆
    public void updateMessages(Object memoryId, List<ChatMessage> list) {
        //1.把list转成json数据
        String json = ChatMessageSerializer.messagesToJson(list);
        //2.把json数据存储到redis中(将会话消息,存入会话id为memoryId的存储对象,有效期为一天)
        redisTemplate.opsForValue().set(memoryId.toString(), json, Duration.ofDays(1));
    }

    //删除会话记忆
    public void deleteMessages(Object memoryId) {
        redisTemplate.delete(memoryId.toString());
    }
}

4.配置一下我们自定义的类

四.效果展示

下图表示,大模型的基本会话记忆功能依旧正常运行。

重启,再问相关问题

五.细节解读

1.为什么创建的东西,和注入的东西,貌似不是同一个?

先表明:是同一个!解释如下:

java 复制代码
// 你定义的类
@Repository
public class RedisChatMemoryStore implements ChatMemoryStore {
    // 实现接口
}

// 注入时使用的类型
@Autowired
private ChatMemoryStore redisChatMemoryStore;  // 注意:这里用的是接口类型!

关键点 :Spring 是根据 类型 来匹配 Bean 的,而不是根据变量名。

为什么能正常工作?

类型匹配原则

  • Spring 容器中有且仅有一个实现了 ChatMemoryStore 接口的 Bean
  • 这个 Bean 就是 RedisChatMemoryStore 的实例
  • Spring 会自动将实现类的实例注入到接口类型的变量中

以上就是本篇文章的全部内容,喜欢的话可以留个免费的关注呦~~~

相关推荐
不知名的老吴4 小时前
Redis的延迟瓶颈:TCP栈开销无法避免
数据库·redis·缓存
guslegend5 小时前
第5节:动态切片策略与重叠机制提升RAG召回率
人工智能·大模型·rag
Devin~Y5 小时前
高并发电商与AI智能客服场景下的Java面试实战:从Spring Boot到RAG与向量数据库落地
java·spring boot·redis·elasticsearch·spring cloud·kafka·rag
熊猫钓鱼>_>5 小时前
从“流程固化“到“意图驱动“:大模型调智能体调Skill架构深度解析
ai·架构·大模型·llm·agent·skill·openclaw
磊 子5 小时前
redis详解2
java·spring boot·redis
杰克尼6 小时前
redis(day03-商户查询缓存)
数据库·redis·缓存
前进的李工6 小时前
LangChain使用AI工具赋能:解锁大语言模型无限潜力
开发语言·人工智能·语言模型·langchain·大模型
刘~浪地球7 小时前
Redis 从入门到精通(十三):哨兵与集群
数据库·redis·缓存
一个有温度的技术博主8 小时前
Lua语法详解:从变量声明到循环遍历的避坑指南
redis·缓存·lua
FeelTouch Labs9 小时前
中国开源大模型三国杀:GLM-5、MiniMax-M2.1、Kimi-K2.5,谁才是技术选型的最优解?
开源·大模型