核心组件2

沐雪架构师2026-01-29 11:00

六 流式传输 (Streaming)

需要注意的是：

流式输出依赖于整个程序链路都支持"逐块处理"。如果程序中的某个环节必须等待完整输出（如需一次性写入数据库），则无法直接使用 Streaming；

LangChain 1.0 进一步优化了流式机制，引入 自动流式模式（Auto-streaming）。例如在Agent中，如果整体程序处于 streaming 模式，即便节点中调用 model.invoke()，LangChain 也会自动流式化模型调用。

python 复制代码 
# 使用.stream()方法进行流式传输
for chunk in model.stream("用一段话描述大海。"):
    print(chunk.content, end="", flush=True)  # 逐块打印

astream_events()

此外，LangChain 还支持通过 astream_events() 对语义事件进行异步流式监听，适合需要过滤不同事件类型的复杂场景。

你能看到 完整语义生命周期事件,包括：

on_chain_start

on_prompt_start / on_prompt_end

on_llm_start

on_llm_stream（逐 Token）

on_llm_end

on_chain_end

非常适合：

调试 LLM 推理过程

了解 LangChain pipeline 的执行顺序

构建 UI（如 web 前端的逐 token streaming）

实现日志、可观测性、监控系统

python 复制代码 
import asyncio
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate

# 1. 构建最简单的 Prompt + LLM
prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一个专业的 AI 助手。"),
    ("human", "{question}")
])

# 2. 初始化 ChatOpenAI 实例，指定使用 gpt-3.5-turbo 模型
llm = ChatOpenAI(
    model="gpt-3.5-turbo",   
)

# 3. 使用管道符将 prompt 模板与 llm 连接，构建可运行的链
chain = prompt | llm

# 4. 使用 astream_events() 监听所有语义事件
events = chain.astream_events(
    {"question": "请用一句话介绍一下 LangChain 1.0 的核心思想。"},
    version="v1",  # 必须指明版本，v1 才有语义事件
)

async for event in events:
    # 打印事件类型
    print(f"""[Event] type={event["event"]}""")

    # 展示关键字段
    if "data" in event:
        print("   data:", event["data"])
    print("-----------------------------")

七 结构化输出解析

  • 很多时候，我们需要模型返回结构化的数据（如JSON），以便程序后续处理。输出解析器 (Output Parsers) 正是为此而生。

  • 最强大的是 StructuredOutputParser，它可以与 Zod（TypeScript）或 Pydantic（Python）等模式定义工具结合使用，确保输出符合预定格式。

    • 目标：让大模型返回可程序解析的数据

    • 任务：学习Pydantic模型，使用with_structured_output()

    • 产出：一个信息抽取器（提取电影信息/新闻摘要）

    • 关键点：ToolStrategy兼容所有模型，ProviderStrategy更可靠

with_structured_output()

使用 Pydantic 的 BaseModel 定义一个严格的数据结构。每个字段都明确了类型（如 str、int、float），并用 Field(..., description="...") 提供语义描述。据此，模型回复时，LangChain 会要求 LLM 的输出必须能填充这些字段。然后使用with_structured_output即可引导模型进行结构化输出。

python 复制代码 
from typing import List
from langchain_core.utils.pydantic import BaseModel, Field
from langchain_openai import ChatOpenAI

# 1. 定义期望的输出结构 (Pydantic 模型)
class Person(BaseModel):
    """Information about a person."""
    name: str = Field(description="人的姓名")
    age: int = Field(description="人的年龄")
    high: int = Field(description="人的身高")
    hobbies: List[str] = Field(description="人的爱好列表")

# 2. 初始化模型并绑定结构化输出格式
llm = ChatOpenAI(model="gpt-4o", temperature=0)

structured_llm = llm.with_structured_output(Person)

# 3. 调用模型并获取 Pydantic 对象，构造提示：要求提取约翰·多伊的姓名、年龄和兴趣爱好
prompt = "提取名为约翰·多伊的人的信息，提取不到的数据就为空值。他30岁，喜欢阅读、远足和弹吉他."

result = structured_llm.invoke(prompt)

# 4. 验证结果
print(f"Type of result: {type(result)}")
print(f"Result object: {result}")

# 5.判断result是否属于Person类
assert isinstance(result, Person)
复制代码 
Type of result: <class '__main__.Person'>
Result object: name='约翰·多伊' age=30 high=0 hobbies=['阅读', '远足', '弹吉他']
  • 而如果想要获得模型的完整回复，则可以设置include_raw=True
python 复制代码 
# 1. 配置结构化输出：指定返回 Pydantic 模型 Person，并保留原始响应
structured_llm = llm.with_structured_output(Person, include_raw=True)

agent中结构化输出

python 复制代码 
from pydantic import BaseModel, Field,field_validator
from typing import Literal
from langchain.agents import create_agent
from langchain_openai import  ChatOpenAI
# 1. 定义天气结构化输出模型
class WeatherForecast(BaseModel):
    """天气预报结构化输出"""
    city: str = Field(description="城市名称")
    temperature: int = Field(description="温度(摄氏度)")
    condition: Literal["晴", "雨", "多云", "雪"] = Field(description="天气状况")

# 2. 加载模型
model = ChatOpenAI(
    model="deepseek-ai/DeepSeek-V3.2",
    temperature=0.5,  # 温度参数，用于控制模型的随机性，值越小则随机性越小
    max_tokens=512,  # 最大生成token数
    timeout=30,  # 超时时间，单位秒
    base_url='https://api.siliconflow.cn/v1',
    api_key='sk-xxx'
)

# 3. 创建智能体
agent = create_agent(
    model=model,                      # 加载的模型
    tools=[],                         # 工具列表，这里为空
    response_format=WeatherForecast   # 指定结构化输出格式
)

# 4. 调用智能体解析天气描述
result = agent.invoke({
    "messages": [{
        "role": "user",
        "content": "北京今天阳光明媚，温度10度"
    }]
})

# 5. 提取并打印结果
forecast = result["structured_response"]
print(f"{forecast.city}天气: {forecast.condition}, {forecast.temperature}°C")
复制代码 
北京天气: 晴, 10°C

带判断的结构

python 复制代码 
from pydantic import BaseModel
from langchain_openai import  ChatOpenAI
# 1. 定义年龄模型，限制范围 0-150
class AgeProfile(BaseModel):
    name: str
    age: int = Field(ge=0, le=150)  # 年龄必须在0-150之间

# 2. 定义模型
model = ChatOpenAI(
    model="deepseek-ai/DeepSeek-V3.2",
    temperature=0.5,  # 温度参数，用于控制模型的随机性，值越小则随机性越小
    max_tokens=512,  # 最大生成token数
    timeout=30,  # 超时时间，单位秒
    base_url='https://api.siliconflow.cn/v1',
    api_key='sk-xxx'
)

# 3. 创建智能体agent
agent = create_agent(
    model=model,
    tools=[],
    response_format=AgeProfile
)

# 4. 模型返回age=999（非法值）
result = agent.invoke({
    "messages": [{
        "role":"user",
        "content": "张三的年龄是999岁"  # 明显不合理的数据
    }]
})

# LangChain会自动：
# 1. 捕获ValidationError
# 2. 在ToolMessage中反馈错误详情
# 3. 让模型重新生成
# 最终返回合法值
print(result["structured_response"])
复制代码 
name='张三' age=150

JsonOutputParser

python 复制代码 
from langchain_core.output_parsers import JsonOutputParser
import json
from pydantic import BaseModel, Field
from langchain_openai import  ChatOpenAI

# 1. 定义输出结构
class WeatherInfo(BaseModel):
    """天气信息"""
    city: str = Field(description="城市名称")
    temperature: int = Field(description="温度（摄氏度）")
    condition: str = Field(description="天气状况")

# 2. 创建 JSON 输出解析器
json_parser = JsonOutputParser(pydantic_object=WeatherInfo)

# 3. 创建提示模板（关键：必须包含 "json" 这个词）
prompt = ChatPromptTemplate.from_template(
        
"""请根据以下信息提取天气数据，并以 JSON 格式返回。

信息：{weather_info}

请返回包含以下字段的 JSON：
- city: 城市名称
- temperature: 温度（摄氏度）
- condition: 天气状况

必须返回以下 JSON 格式（不要包含任何其他文本）：
{{"city": "城市名称", "temperature": 温度数字, "condition": "天气状况"}}

例如：{{"city": "北京", "temperature": 25, "condition": "晴"}}

JSON 格式：
""")

# 4. 定义模型
model = ChatOpenAI(
    model="deepseek-ai/DeepSeek-V3.2",
    temperature=0.5,  # 温度参数，用于控制模型的随机性，值越小则随机性越小
    max_tokens=512,  # 最大生成token数
    timeout=30,  # 超时时间，单位秒
    base_url='https://api.siliconflow.cn/v1',
    api_key='sk-xxx'
)

# 5. 构建链
runnable = prompt | model | json_parser

# 6. 调用
result = runnable.invoke({"weather_info": "北京今天晴，温度25度"})
print(result)
print(result["city"])
复制代码 
{'city': '北京', 'temperature': 25, 'condition': '晴'}
北京

结构化输出关键要点：

  1. 输出json格式提示词必须包含 "json" 关键词

    • 有些大模型 要求提示词中包含 "json" 这个词，
    • 否则会报错：Prompt must contain the word 'json'

  2. 推荐方案对比

    • 方案 1 (JsonOutputParser)：最简洁，推荐使用
    • 方案 2 (with_structured_output)：需要提示词包含 "json"
    • 方案 3 (可选手动 JSON 解析)：最稳定，适合关键应用

  3. 配置建议

    • 设置 temperature=0.0 获得更稳定的输出
    • 最好提供清晰的 JSON 格式示例

  4. 常见错误

    • 提示词中没有 "json" 关键词
    • 没有设置低温度参数
    • 没有提供 JSON 格式示例
    • 没有处理解析异常

简单问答机器人

用标准接口实现一个支持多轮消息与流式输出的问答机器人

python 复制代码 
from langchain_openai import ChatOpenAI
from langchain.messages import HumanMessage,SystemMessage,AIMessage
from langchain_core.prompts import ChatPromptTemplate


model=ChatOpenAI(
    model="deepseek-ai/DeepSeek-V3.2",
    temperature=0.5,  # 温度参数，用于控制模型的随机性，值越小则随机性越小
    max_tokens=512,  # 最大生成token数
    timeout=30,  # 超时时间，单位秒
    base_url='https://api.siliconflow.cn/v1',
    api_key='sk-xxxx'
)

def chat():
    msgs=[
        SystemMessage(content="你是一个智能助手"),
    ]

    while True:
        prompt=input("请输入:")
        if prompt=="exit":
            break
        human=HumanMessage(content=prompt)
        msgs.append(human)
        # ret=model.invoke(msgs)
        # msgs.append(AIMessage(content=ret.content))
        # print(ret.content)
        full_reply = ""
        for chunk in model.stream(msgs):
            print(chunk.content, end="", flush=True)
            full_reply += chunk.content
        msgs.append(AIMessage(content=full_reply))
        print("\n" + "-" * 40)  # 分隔线

if __name__ == '__main__':
    chat()
相关推荐
五月君_5 分钟前
炸裂！Claude Opus 4.6 与 GPT-5.3 同日发布：前端人的“自动驾驶“时刻到了？
前端·gpt
Mr Xu_10 分钟前
前端开发中CSS代码的优化与复用：从公共样式提取到CSS变量的最佳实践
前端·css
鹏北海-RemHusband1 小时前
从零到一：基于 micro-app 的企业级微前端模板完整实现指南
前端·微服务·架构
LYFlied1 小时前
AI大时代下前端跨端解决方案的现状与演进路径
前端·人工智能
光影少年1 小时前
AI 前端 / 高级前端
前端·人工智能·状态模式
一位搞嵌入式的 genius1 小时前
深入 JavaScript 函数式编程：从基础到实战（含面试题解析）
前端·javascript·函数式
anOnion1 小时前
构建无障碍组件之Alert Dialog Pattern
前端·html·交互设计
choke2331 小时前
[特殊字符] Python 文件与路径操作
java·前端·javascript
云飞云共享云桌面1 小时前
高性能图形工作站的资源如何共享给10个SolidWorks研发设计用
linux·运维·服务器·前端·网络·数据库·人工智能
Deng9452013141 小时前
Vue + Flask 前后端分离项目实战：从零搭建一个完整博客系统
前端·vue.js·flask
热门推荐
01GitHub 镜像站点02Claude Code + GLM4.7 避坑指南：解决 Unable to connect to Anthropic services03OpenClaw Chrome扩展使用教程 - 浏览器中继控制04Linux下V2Ray安装配置指南05UV安装并设置国内源06openclaw配置教程（linux+局域网ollama）07让 Trae IDE 智能体 “读懂”文档 Excel+PDF+DOCX ：mcp-documents-reader 工具使用指南08使用 1panel面板 部署 php网站09Vue-skills的中文文档10从零搭建一个 PHP 登录注册系统（含完整源码）