Agent短期记忆的几种持久化存储方式

今天给大家讲一下关于Agent长期对话的几种持久化存储方式,之前的文章给大家说过短期记忆和长期记忆,短期记忆基于InMemorySaver做checkpointer(检查点),短期记忆 (线程级持久性) 使代理能够跟踪多轮次对话,保存了图的执行状态,可以做回滚。而长期记忆基于BaseStore做checkpointer,InMemoryStore是 BaseStore 的具体实现,可以存取相应的应用数据,使用长期内存 (跨线程持久性) 跨对话存储特定于用户或特定于应用程序的数据。但是在生产环境中,我们必须要采用持久化的版本来保证我们的Agent重启时数据丢失。 下面我们重点讲一下短期记忆的持久化方式:

一. PostgresSaver检查点

首先引入需要的库

bash 复制代码
pip install -U "psycopg[binary,pool]" langgraph langgraph-checkpoint-postgres langchain-openai langchain

设置大模型的key,这里根据具体的大模型设置

python 复制代码
import os

from langchain.chat_models import init_chat_model

os.environ["OPENAI_API_KEY"] = "sk-xxxxxxx"

os.environ["OPENAI_API_BASE"] = "https://openkey.cloud/v1"

from langchain.chat_models import init_chat_model

from langgraph.graph import StateGraph, MessagesState, START

from langgraph.checkpoint.postgres import PostgresSaver

初始化我们的大模型

python 复制代码
model = init_chat_model(model="anthropic:claude-3-5-haiku-latest")

然背后开始我们的postgressql的初始化,设置好你postgres的地址,端口和密码。

python 复制代码
DB_URI = "postgresql://postgres:postgres@localhost:5442/postgres?sslmode=disable"

with PostgresSaver.from_conn_string(DB_URI) as checkpointer:

    # checkpointer.setup()

    def call_model(state: MessagesState):

        response = model.invoke(state["messages"])

        return {"messages": response}

    builder = StateGraph(MessagesState)

    builder.add_node(call_model)

    builder.add_edge(START, "call_model")

    graph = builder.compile(checkpointer=checkpointer)

    config = {

        "configurable": {

            "thread_id": "1"

        }

    }

    for chunk in graph.stream(

        {"messages": [{"role": "user", "content": "hi! I'm bob"}]},

        config,

        stream_mode="values"

    ):

        chunk["messages"][-1].pretty_print()

    for chunk in graph.stream(

        {"messages": [{"role": "user", "content": "what's my name?"}]},

        config,

        stream_mode="values"

    ):

        chunk["messages"][-1].pretty_print()

这里需要注意的是,如果首次初始化postgres的checkpointer的话,需要调用checkpointer.setup(),因为需要初始化表。我们可以打开你的postgresSql数据库 可以看到总共初始化checkpointer有这几张表。 然后我们看看这张表里面的内容 执行上面Agent,得到下面输出:

二. PostgresSaver检查点

使用mongodb需要注意引入下面库

bash 复制代码
pip install langgraph.checkpoint.mongodb

from langgraph.checkpoint.mongodb import MongoDBSaver

使用mongodb检查点:

python 复制代码
DB_URI = "localhost:27017"

with MongoDBSaver.from_conn_string(DB_URI) as checkpointer:

    def call_model(state: MessagesState):

        response = model.invoke(state["messages"])

        return {"messages": response}

    builder = StateGraph(MessagesState)

    builder.add_node(call_model)

    builder.add_edge(START, "call_model")

    graph = builder.compile(checkpointer=checkpointer)

    config = {

        "configurable": {

            "thread_id": "1"

        }

    }

    for chunk in graph.stream(

        {"messages": [{"role": "user", "content": "hi! I'm bob"}]},

        config,

        stream_mode="values"

    ):

        chunk["messages"][-1].pretty_print()

    for chunk in graph.stream(

        {"messages": [{"role": "user", "content": "what's my name?"}]},

        config,

        stream_mode="values"

    ):

        chunk["messages"][-1].pretty_print()

得到下面结果: 我们打开吗,mongodb数据库会看到这几张表: 存储的结构阶段如下:

三. Redis检查点

这里需要引入下面库

python 复制代码
langgraph.checkpoint.redis
from langgraph.checkpoint.redis import RedisSaver

然后开始使用Redis检查点:

python 复制代码
DB_URI = "redis://localhost:6379"

with RedisSaver.from_conn_string(DB_URI) as checkpointer:

    # checkpointer.setup()

    def call_model(state: MessagesState):

        response = model.invoke(state["messages"])

        return {"messages": response}

    builder = StateGraph(MessagesState)

    builder.add_node(call_model)

    builder.add_edge(START, "call_model")

    graph = builder.compile(checkpointer=checkpointer)

    config = {

        "configurable": {

            "thread_id": "1"

        }

    }

    for chunk in graph.stream(

        {"messages": [{"role": "user", "content": "hi! I'm bob"}]},

        config,

        stream_mode="values"

    ):

        chunk["messages"][-1].pretty_print()

    for chunk in graph.stream(

        {"messages": [{"role": "user", "content": "what's my name?"}]},

        config,

        stream_mode="values"

    ):

        chunk["messages"][-1].pretty_print()

得到如下结果 这三种方式就是我们常用的短期记忆持久化方式,感兴趣的同学可以跟着里面的字段来学习它的底层是怎么存储的,在我们写Agent的时候,一个持久化方案在我们多Agent交互的时候往往有很高的效率。 下面一章我们接着说长期记忆的持久化方式。

相关推荐
落798.11 分钟前
《启元 PrimeSim 如何用生成视频评估机器人策略》
人工智能·机器人·启元·具身应用
老纪的技术唠嗑局29 分钟前
token 暴降75%!减少长程 Agent 任务中的重复开销,PowerContext v1.5.0 发布
人工智能
智塑未来38 分钟前
明源云AI走播机器人,打造智能直播新体验
人工智能·机器人
brave102543 分钟前
LLMGuide 大模型面试指南
人工智能·ai·面试·ai编程
一晌小贪欢1 小时前
Python基础:第 09 篇 · while 循环:重复直到不满足
开发语言·c++·python·数据可视化·面向对象·python办公
机 _ 长1 小时前
05 智算运维|8 张卡怎么才算「捆成一张」:NCCL 实测与拓扑
运维·人工智能·算法·智算运维
用户4356782936372 小时前
五线并行认知架构:从算力内卷到思考秩序的底层革命
人工智能
一 铭2 小时前
WrenAI 详解:给 AI Agent 的开源 GenBI 引擎
人工智能·开源
say_fall2 小时前
【AI大模型】MCP 模型上下文协议:客户端-服务器架构、JSON-RPC 消息与能力协商、工具发现与调用链路、与函数调用的分工
服务器·人工智能·架构
一条大祥脚2 小时前
CuTe 与 CuTe DSL:从 C++ 模板元编程到 Python DSL 的 GPU 编程演进
开发语言·c++·python·cutlass·cute·cute dsl