LangChain1.0智能体开发:运行时(Runtime)

基于LangChain1.0创建的智能体是运行在LangGraph的运行时(Runtime)之上。LangChain可以通过LangGraph对外暴露的运行时对象访问上下文、存储以及流写入器。

1、运行时概述

LangChain的create_agent本质上运行在LangGraph的运行时(Runtime)之上。LangGraph会暴露一个包含以下信息的运行时对象(Runtime object):

  • 上下文(Context):静态信息,例如用户ID、数据库连接或智能体调用所需的其他依赖项。
  • 存储(Store):一个用于长期记忆的BaseStore实例。
  • 流写入器(Stream writer):一个用于通过自定义流模式传输信息的对象。

你可以在工具和中间件内部访问运行时信息。

2、配置运行时上下文

运行时上下文(Runtime Context)为工具(tools)和中间件(middleware)提供依赖注入功能。无需硬编码值或使用全局状态,你可以在调用智能体时注入运行时依赖项(如数据库连接、用户ID或配置)。这使得你的工具更易于测试、更具可复用性且灵活性更高。 使用create_agent创建智能体时,你可以指定一个context_schema(上下文模式),用于定义存储在智能体运行时(Runtime)中的上下文结构。调用智能体时,需传入context参数,并在该参数中包含本次运行所需的相关配置。

python 复制代码
from dataclasses import dataclass
from langchain.agents import create_agent


@dataclass
class Context:
    user_name: str

agent = create_agent(
    model="gpt-5-nano",
    tools=[...],
    context_schema=Context  
)

agent.invoke(
    {"messages": [{"role": "user", "content": "What's my name?"}]},
    context=Context(user_name="John Smith")  
)

3、通过工具访问运行时信息

你可以在工具内部访问运行时信息,以实现以下操作:

  • 访问上下文:通过runtime.context访问上下文信息。
  • 读取或写入长期记忆:通过runtime.store访问长期记忆。
  • 写入自定义流(例如,工具进度 / 更新):通过get_stream_writer()获取流写入器,然后使用流写入器写入自定义流。 可使用ToolRuntime参数在工具内部访问运行时(Runtime)对象。
python 复制代码
from dataclasses import dataclass
from langchain.tools import tool, ToolRuntime  

@dataclass
class Context:
    user_id: str

@tool
def fetch_user_email_preferences(runtime: ToolRuntime[Context]) -> str:  
    """Fetch the user's email preferences from the store."""
    user_id = runtime.context.user_id  

    preferences: str = "The user prefers you to write a brief and polite email."
    if runtime.store:  
        if memory := runtime.store.get(("users",), user_id):  
            preferences = memory.value["preferences"]

    return preferences

4、通过中间件访问运行时信息

你可以在中间件中访问运行时信息,从而根据用户上下文创建动态提示词、修改消息或控制智能体行为。

  • 对于封装式中间件,可通过request.runtime访问运行时(Runtime)对象。request运行时对象包含在传递给中间件函数的ModelRequest参数中。
  • 对于节点式中间件,可通过runtime参数访问运行时(Runtime)对象。
python 复制代码
from dataclasses import dataclass
from langchain.messages import AnyMessage
from langchain.agents import create_agent, AgentState
from langchain.agents.middleware import dynamic_prompt, ModelRequest, before_model, after_model
from langgraph.runtime import Runtime


@dataclass
class Context:
    user_name: str

# Dynamic prompts
@dynamic_prompt
def dynamic_system_prompt(request: ModelRequest) -> str:
    user_name = request.runtime.context.user_name  
    system_prompt = f"You are a helpful assistant. Address the user as {user_name}."
    return system_prompt

# Before model hook
@before_model
def log_before_model(state: AgentState, runtime: Runtime[Context]) -> dict | None:  
    print(f"Processing request for user: {runtime.context.user_name}")  
    return None

# After model hook
@after_model
def log_after_model(state: AgentState, runtime: Runtime[Context]) -> dict | None:  
    print(f"Completed request for user: {runtime.context.user_name}")  
    return None

agent = create_agent(
    model="gpt-5-nano",
    tools=[...],
    middleware=[dynamic_system_prompt, log_before_model, log_after_model],  
    context_schema=Context
)

agent.invoke(
    {"messages": [{"role": "user", "content": "What's my name?"}]},
    context=Context(user_name="John Smith")
)
相关推荐
IT_陈寒2 小时前
Vue这个坑我跳了两次,原来问题出在这
前端·人工智能·后端
新新技术迷2 小时前
Node给AI接口做SSE代理与鉴权
人工智能
redreamSo3 小时前
大模型是不是到顶了?瓶颈到底在哪
人工智能·openai
Oo9203 小时前
Tool Use 背后的技术逻辑
人工智能
姗姗来迟了3 小时前
Vue3封装AI流式对话组件踩坑实录
人工智能
码上天下3 小时前
用Pinia管理AI多会话状态
人工智能
想要成为糕糕手4 小时前
深入理解AI Agent工具调用:从原理到代码实现
llm·agent
用户054324329704 小时前
Next.js接大模型流式SSE实操踩坑
人工智能
Sokach10154 小时前
Windows使用hermes桌面端个人出现的问题
agent
Assby4 小时前
从 Function Calling 到 MCP:理解 Agent 工具调用的底层通信机制
人工智能·后端