4 human in loop中间件

LangChain 1.0 实战:Human-in-the-Loop 中间件详解 ------ 让 AI 更安全、更可控

作者 :AI 工程师
日期 :2026 年 3 月 26 日
关键词:LangChain、HumanInTheLoopMiddleware、人机协作、Agent 安全、MCP

在大模型智能体(Agent)日益普及的今天,如何确保其行为安全、合规、可审计 ,成为落地关键。LangChain 1.0 推出的 HumanInTheLoopMiddleware(人机协作中间件),正是解决这一问题的利器。

本文将深入介绍该中间件的原理、配置方式与实战技巧,助你构建高可信度的 AI 应用


一、什么是 Human-in-the-Loop(HITL)?

Human-in-the-Loop(人机协作) 是一种在 AI 决策流程中引入人类监督的机制。当 Agent 尝试执行高风险操作 (如删除数据、发送邮件、修改配置)时,系统会自动暂停,等待人工审核后再继续。

✅ 典型场景:

  • 发送包含敏感信息的邮件
  • 执行 SQL 删除语句
  • 修改生产环境配置
  • 调用金融交易接口

LangChain 通过 HumanInTheLoopMiddleware 将 HITL 能力标准化,无缝集成到 Agent 工作流中。


二、核心能力:三种人工决策类型

当中间件触发中断后,人类可选择以下三种操作:

决策类型 说明 示例
approve(批准) 按原参数执行工具调用 直接发送草稿邮件
✏️ edit(编辑) 修改工具参数后执行 修改收件人或正文后再发
reject(拒绝) 取消操作,并反馈原因 拒绝发送,并要求重写

⚠️ 注意:是否允许 edit 取决于你在 interrupt_on 中的配置。


  1. 中断触发条件(interrupt_on)
    True:启用所有决策类型(approve/edit/reject)
    False:跳过审核
    字典形式:精细控制允许的决策类型
python 复制代码
HumanInTheLoopMiddleware(
            interrupt_on={
                "write_file": True, #写文件需要确认文件名和内容
                "execute_sql": True,# 执行SQL需要确认SQL语句
                "send_email": {
                    "allowed_decisions": ["approve", "edit", "reject"],
                    "description": "发送邮件需要确认收件人和内容"
                },
                "read_data": False,
            },
            description_prefix="敏感操作需要您的批准",
        )

三、快速上手:配置 HumanInTheLoopMiddleware

1. 简单的代码

python 复制代码
# -*- coding: utf-8 -*-
"""
agent_with_memory
Author: user
Date: 2026/3/16
Description:
"""
from langchain.agents import create_agent, AgentState
from langgraph.checkpoint.memory import InMemorySaver
from langchain_core.tools import tool
from langchain_community.callbacks import get_openai_callback
from langchain.chat_models import init_chat_model
from langchain.agents.middleware import HumanInTheLoopMiddleware
import os
from dotenv import load_dotenv
from langgraph.types import Command

load_dotenv(override=True)

model = init_chat_model(model="qwen2-72b", #
                        model_provider='openai',
                        api_key= os.getenv("api_key"),
                        base_url= os.getenv("base_url"),
                        temperature=0.3,
                        max_retries=4,
                        #max_tokens=10
                        )

# 1. 系统提示词
system_prompt = """你是多功能助手,可以执行写文件、执行SQL、发送邮件、读取数据等操作。"""

# 2. 定义工具
@tool
def write_file(filename: str, content: str) -> str:
    """写入文件"""
    with open(filename, "w", encoding="utf-8") as f:
        f.write(content)
    print("文件写入成功!")
    return f"已写入文件: {filename}"

@tool
def execute_sql(query: str) -> str:
    """执行 SQL 查询"""
    # 实际应用中连接数据库
    return f"执行 SQL: {query}"

@tool
def send_email(to: str, subject: str, body: str) -> str:
    """发送邮件"""
    return f"已发送邮件到 {to}"

@tool
def read_data(source: str) -> str:
    """读取数据(安全操作)"""
    return f"读取数据: {source}"



# 4. 添加记忆
checkpointer = InMemorySaver()

# 5. 创建 Agent
agent = create_agent(
    model=model,
    tools=[write_file, execute_sql,send_email,read_data],
    system_prompt=system_prompt,
    checkpointer=checkpointer,
    middleware=[
        HumanInTheLoopMiddleware(
            interrupt_on={
                "write_file": True, #写文件需要确认文件名和内容
                "execute_sql": True,# 执行SQL需要确认SQL语句
                "send_email": {
                    "allowed_decisions": ["approve", "edit", "reject"],
                    "description": "发送邮件需要确认收件人和内容"
                },
                "read_data": False,
            },
            description_prefix="敏感操作需要您的批准",
        ),
    ],
)

# 6. 运行对话
config = {"configurable": {"thread_id": "user-001"}}



# 初始调用
result = agent.invoke(
    {"messages": [{"role": "user", "content": "在文件 test.txt 中写入内容:Hello, World!"}]},
    config=config
)

# 中断后必须用 Command(resume=...) 恢复;HumanInTheLoopMiddleware 期望 HITLResponse:
# {"decisions": [{"type": "approve"|"edit"|"reject", ...}]}
# 不能传 {"decision": "approve"},否则 interrupt() 收不到决策,工具不会执行。
if result.get("__interrupt__"):
    print(f"等待审批: {result['__interrupt__']}")

    choice = input("批准? (y/n/e): ").lower().strip()

    if choice == "y":
        result = agent.invoke(
            Command(resume={"decisions": [{"type": "approve"}]}),
            config=config,
        )
    elif choice == "e":
        new_content = input("输入新的文件内容: ")
        result = agent.invoke(
            Command(
                resume={
                    "decisions": [
                        {
                            "type": "edit",
                            "edited_action": {
                                "name": "write_file",
                                "args": {
                                    "filename": "safe_test.txt",
                                    "content": new_content,
                                },
                            },
                        }
                    ]
                }
            ),
            config=config,
        )
    else:
        result = agent.invoke(
            Command(
                resume={
                    "decisions": [
                        {
                            "type": "reject",
                            "message": "用户拒绝执行 write_file",
                        }
                    ]
                }
            ),
            config=config,
        )

print(result['messages'][-1].content)

2 api接口对答题

相关推荐
006_3 小时前
springboot 全球多语言情感分析 NLP 实现词云关键词提取-简易版
人工智能·自然语言处理·easyui
深藏功yu名3 小时前
Day25:RAG检索+重排序保姆级入门!
人工智能·ai·pycharm·agent·rag·rerank
人工智能培训3 小时前
具身智能中:人机交互与协作挑战
人工智能·深度学习·神经网络·机器学习·大模型·具身智能
你们补药再卷啦3 小时前
Agent建设(3/4)笔记
人工智能
TMT星球3 小时前
梦饷科技联手澳洲高端护肤品牌澳诗茉开展超级品牌日 销售额突破400万
大数据·人工智能
黎阳之光3 小时前
黎阳之光:数智硬核技术赋能应急管理装备创新,筑牢安全防线
大数据·人工智能·科技·算法·安全
*JOKER3 小时前
[LLM量化] 深入理解大模型量化:GPTQ 原理解析
人工智能·深度学习·机器学习·gptq·大模型量化
研究点啥好呢3 小时前
3月26日Github热榜推荐 | AI代理工具链专栏
人工智能·驱动开发·python·ai
剑穗挂着新流苏3123 小时前
200_深度学习的地基:PyTorch 数据操作与 Pandas 预处理实战
人工智能·pytorch·python·深度学习