LangChain短期内存系统

言之。2026-01-09 11:13

1. 概述与核心概念

1.1 什么是短期内存

短期内存是LangChain框架中的核心组件，用于记住单次会话或线程内的先前交互 。对于AI智能体而言，内存系统至关重要，它使智能体能够记住之前的交互、从反馈中学习并适应用户偏好。

当智能体处理需要大量用户交互的复杂任务时，这种记忆能力对于效率提升和用户体验优化 都不可或缺。短期内存特别关注线程级别的会话历史管理，确保每个独立对话都能保持连贯性。

1.2 上下文挑战与解决方案

当今大型语言模型面临一个重要挑战：长对话处理 。当完整的历史记录超出LLM的上下文窗口限制时，会导致上下文丢失或生成错误 。即使模型理论上支持更长的上下文，多数LLM在长上下文场景下仍存在性能问题------它们容易受到陈旧或无关内容的干扰，同时伴随着响应时间变慢和成本增加的问题。

聊天模型通过消息列表（包含系统指令和用户输入）接受上下文。在聊天应用中，人类输入和模型响应交替出现，导致消息列表随时间不断增长。由于上下文窗口有限，许多应用需要使用特殊技术来移除或"遗忘"陈旧信息。

2. 基本使用与配置

2.1 核心配置：检查点机制

要为智能体添加短期内存（线程级持久化），您需要在创建智能体时指定检查点器(checkpointer)。LangChain通过智能体状态图来管理短期内存，并将其存储在智能体状态中，使智能体能访问完整对话上下文，同时保持不同线程的隔离性。

基础内存实现示例：

python 复制代码 
from langchain.agents import create_agent
from langgraph.checkpoint.memory import InMemorySaver  

agent = create_agent(
    "gpt-5",  # 模型名称
    tools=[get_user_info],  # 可用工具
    checkpointer=InMemorySaver(),  # 内存检查点器
)

agent.invoke(
    {"messages": [{"role": "user", "content": "Hi! My name is Bob."}]},
    {"configurable": {"thread_id": "1"}},  # 线程标识
)

状态更新发生在智能体调用或步骤（如工具调用）完成时，状态读取则发生在每个步骤开始时。

2.2 生产环境配置

在生产环境中，应使用数据库支持的检查点器以确保持久化和可扩展性：

python 复制代码 
pip install langgraph-checkpoint-postgres

from langchain.agents import create_agent
from langgraph.checkpoint.postgres import PostgresSaver  

DB_URI = "postgresql://postgres:postgres@localhost:5442/postgres?sslmode=disable"
with PostgresSaver.from_conn_string(DB_URI) as checkpointer:
    checkpointer.setup()  # 自动在PostgreSQL中创建表
    agent = create_agent(
        "gpt-5",
        tools=[get_user_info],
        checkpointer=checkpointer,  
    )

3. 自定义智能体内存

3.1 扩展AgentState

默认情况下，智能体使用AgentState管理短期内存，特别是通过messages键管理对话历史。您可以扩展AgentState以添加额外字段，自定义状态模式通过state_schema参数传递给create_agent：

python 复制代码 
from langchain.agents import create_agent, AgentState
from langgraph.checkpoint.memory import InMemorySaver

class CustomAgentState(AgentState):  
    user_id: str
    preferences: dict

agent = create_agent(
    "gpt-5",
    tools=[get_user_info],
    state_schema=CustomAgentState,  
    checkpointer=InMemorySaver(),
)

# 可以在invoke中传递自定义状态
result = agent.invoke(
    {
        "messages": [{"role": "user", "content": "Hello"}],
        "user_id": "user_123",  
        "preferences": {"theme": "dark"}  
    },
    {"configurable": {"thread_id": "1"}})

4. 内存管理策略

4.1 消息修剪策略

当长对话超过LLM的上下文窗口时，最常见的解决方案之一是修剪消息。LLM通常有最大支持的上下文窗口（以令牌数计算）。决定何时截断消息的一种方法是统计消息历史中的令牌数，并在接近限制时截断。

使用@before_model中间件装饰器修剪消息历史：

python 复制代码 
from langchain.messages import RemoveMessage
from langgraph.graph.message import REMOVE_ALL_MESSAGES
from langgraph.checkpoint.memory import InMemorySaver
from langchain.agents import create_agent, AgentState
from langchain.agents.middleware import before_model
from langgraph.runtime import Runtime
from langchain_core.runnables import RunnableConfig
from typing import Any

@before_model
def trim_messages(state: AgentState, runtime: Runtime) -> dict[str, Any] | None:
    """仅保留最近几条消息以适应上下文窗口"""
    messages = state["messages"]

    if len(messages) <= 3:
        return None  # 无需更改

    first_msg = messages[0]
    recent_messages = messages[-3:] if len(messages) % 2 == 0 else messages[-4:]
    new_messages = [first_msg] + recent_messages

    return {
        "messages": [
            RemoveMessage(id=REMOVE_ALL_MESSAGES),
            *new_messages
        ]
    }

agent = create_agent(
    your_model_here,
    tools=your_tools_here,
    middleware=[trim_messages],
    checkpointer=InMemorySaver(),
)

4.2 消息删除策略

您可以从图状态中删除消息来管理消息历史。这对于想要移除特定消息或清除整个消息历史 的情况很有用。要删除消息，需要使用具有add_messages减速器的状态键。

删除特定消息：

python 复制代码 
from langchain.messages import RemoveMessage  

def delete_messages(state):
    messages = state["messages"]
    if len(messages) > 2:
        # 移除最早的两条消息
        return {"messages": [RemoveMessage(id=m.id) for m in messages[:2]]}

删除所有消息：

python 复制代码 
from langgraph.graph.message import REMOVE_ALL_MESSAGES

def delete_messages(state):
    return {"messages": [RemoveMessage(id=REMOVE_ALL_MESSAGES)]}

4.3 消息摘要策略

修剪或删除消息可能导致信息丢失，因此某些应用受益于使用聊天模型总结消息历史的更复杂方法：

python 复制代码 
from langchain.agents import create_agent
from langchain.agents.middleware import SummarizationMiddleware
from langgraph.checkpoint.memory import InMemorySaver
from langchain_core.runnables import RunnableConfig

checkpointer = InMemorySaver()

agent = create_agent(
    model="gpt-4o",
    tools=[],
    middleware=[
        SummarizationMiddleware(
            model="gpt-4o-mini",  # 用于摘要的模型
            trigger=("tokens", 4000),  # 触发条件
            keep=("messages", 20)  # 保留的消息数
        )
    ],
    checkpointer=checkpointer,
)

5. 访问与修改内存

5.1 工具中访问短期内存

通过runtime参数（类型为ToolRuntime）在工具中访问短期内存（状态）。该参数对工具签名隐藏（因此模型看不到它），但工具可以通过它访问状态：

python 复制代码 
from langchain.agents import create_agent, AgentState
from langchain.tools import tool, ToolRuntime

class CustomState(AgentState):
    user_id: str

@tool
def get_user_info(
    runtime: ToolRuntime
) -> str:
    """查找用户信息"""
    user_id = runtime.state["user_id"]
    return "User is John Smith" if user_id == "user_123" else "Unknown user"

5.2 从工具写入短期内存

要在执行过程中修改智能体的短期内存（状态），可以直接从工具返回状态更新。这对于持久化中间结果或使信息对后续工具或提示可用非常有用：

python 复制代码 
from langchain.tools import tool, ToolRuntime
from langchain_core.runnables import RunnableConfig
from langchain.messages import ToolMessage
from langchain.agents import create_agent, AgentState
from langgraph.types import Command
from pydantic import BaseModel

class CustomState(AgentState):  
    user_name: str

class CustomContext(BaseModel):
    user_id: str

@tool
def update_user_info(
    runtime: ToolRuntime[CustomContext, CustomState],
) -> Command:
    """查找并更新用户信息"""
    user_id = runtime.context.user_id
    name = "John Smith" if user_id == "user_123" else "Unknown user"
    return Command(update={  
        "user_name": name,
        # 更新消息历史
        "messages": [
            ToolMessage(
                "成功查找用户信息",
                tool_call_id=runtime.tool_call_id
            )
        ]
    })

6. 最佳实践与注意事项

6.1 消息历史有效性检查

删除消息时，请确保结果消息历史是有效的。检查您使用的LLM提供程序的限制，例如：

  • 某些提供程序期望消息历史以用户消息开始
  • 大多数提供程序要求包含工具调用的助手消息后必须跟随相应的工具结果消息

6.2 生产环境建议

  1. 选择合适的检查点器：开发环境可使用内存检查点器，生产环境应选择PostgreSQL或其他数据库支持的检查点器
  2. 监控内存使用情况：定期检查消息历史长度，防止超过模型上下文限制
  3. 实现适当的清理策略：根据应用需求选择修剪、删除或摘要策略
  4. 线程隔离：确保不同线程间的状态完全隔离，避免数据混淆
  5. 错误恢复机制：检查点系统应支持异常情况下的状态恢复

6.3 性能优化建议

  1. 批量操作：尽量减少状态更新频率，使用批量更新提高性能
  2. 异步处理：长时间运行的操作应使用异步机制
  3. 缓存策略：对频繁访问的状态数据实现缓存机制
  4. 定期归档：将历史对话归档到长期存储，减少活动状态数据量

结论

LangChain的短期内存系统为构建持久化、可扩展的对话应用提供了强大基础。通过合理的配置和策略选择，您可以克服LLM上下文限制，创建出真正具有记忆能力和连贯性的智能体应用。

关键成功因素包括：正确的检查点器选择、合适的内存管理策略、有效的状态访问模式 以及生产环境下的监控和维护机制。随着应用复杂性增加，这些短期内存管理技术将变得更加重要。

相关推荐
玄同7653 小时前
LangChain v1.0+ Memory 全类型指南：构建上下文感知大模型应用的核心方案
人工智能·语言模型·自然语言处理·langchain·nlp·知识图谱·向量数据库
中草药z4 小时前
【Vibe Coding】初步认识LangChain&LangGraph
前端·langchain·html·agent·cursor·langgraph·vibe
满栀5854 小时前
企业后台管理系统菜单模块重构
microsoft·重构
Yeats_Liao4 小时前
星图平台快速搭建 Clawdbot：私有化本地 Qwen3-VL:30B 并接入飞书平台（上篇）
人工智能·microsoft·飞书
范纹杉想快点毕业4 小时前
自学嵌入式系统架构设计：有限状态机入门完全指南，C语言，嵌入式，单片机，微控制器，CPU，微机原理，计算机组成原理
c语言·开发语言·单片机·算法·microsoft
2601_949146534 小时前
Go短信验证码接口开发实践：编写一个可直接运行的发送示例
服务器·microsoft·golang
xiangzhihong815 小时前
AI大模型面试总结
microsoft
花间相见16 小时前
【LangChain】—— Prompt、Model、Chain与多模型执行链
前端·langchain·prompt
云草桑19 小时前
.net AI开发04 第八章 引入RAG知识库与文档管理核心能力及事件总线
数据库·人工智能·microsoft·c#·asp.net·.net·rag
qq_4557608520 小时前
Langchain & Langgraph介绍
langchain
热门推荐
01GitHub 镜像站点02Clawdbot 中文汉化版 接入微信、飞书03OpenCode 入门教程：介绍 · 安装 · 配置第三方 API (如 Claude)042026数学建模美赛题目特点与选题建议，常用四大模型汇总05一种新的LCA算法06Claude Code Skills 实用使用手册07零门槛部署本地 AI 助手：Clawdbot/Meltbot 部署深度保姆级教程08在Trae中使用Pencil MCP09【网络安全测试】Burp Suite工具使用说明、配置及常见问题（有关必回）10如何做一个网站？