( 教学 )Agent 构建 Prompt(提示词)3. StructuredOutputParser (结构化输出)

StructuredOutputParser 小于 1.0 版本,推荐使用 PydanticOutputParser 大于 1.0

StructuredOutputParser"结构化输出解析器"是一款非常有用的工具,它能够将大型语言模型(LLM)的响应格式化为字典结构,从而能够以键/值对的形式返回多个字段。

虽然 Pydantic和 JSON解析器具备强大的功能,但StructuredOutputParser"结构化输出解析器"对于功能较弱的模型(例如参数较少的本地模型)尤其有效。对于与像 GPT或 Claude这样的高级模型相比智能程度较低的模型而言,它尤其有益。

通过使用结构化输出解析器,开发人员可以在各种 LLM 应用程序中保持数据的完整性和一致性,即使是在使用参数数量较少的模型时也是如此。

使用 ResponseSchema和 StructuredOutputParser(0.3版本以前的写法,1.0版本已经弃用,改为更加现代化的方式)

  • 使用 ResponseSchema类定义响应模式,以包含用户问题的答案和所使用的来源(网站)的 description。

  • 使用 response_schemas初始化 StructuredOutputParser,以根据定义的响应模式构建输出结构。

注意

在使用本地模型时,Pydantic解析器可能经常无法正常工作。在这种情况下,使用 StructuredOutputParser可以作为一个很好的替代解决方案。

所以对于这个情况后,在1.0版本中,推荐使用更加现代化的方式来实现结构化输出解析器。PydanticOutputParser 是一个基于 Pydantic 模型的解析器,它可以将 LLM 的响应解析为符合定义的 Pydantic 模型的实例。

现代化的结构化输出解析器 (1.0版本及以后)

方式1:使用 Pydantic 模型(推荐)

最灵活且功能最强大的方式,支持字段验证和嵌套结构:

python 复制代码
from pydantic import BaseModel, Field
class ResponseSchema(BaseModel):
    answer: str = Field(description="用户问题的答案")
    source: str = Field(description="所使用的来源(网站)的描述")

方式2:使用 TypedDict(简洁)

当你不需要运行时验证时的轻量级方式:

python 复制代码
from typing_extensions import TypedDict, Annotated

class ResponseSchema(TypedDict):
    answer: Annotated[str, Field(description="用户问题的答案")]
    source: Annotated[str, Field(description="所使用的来源(网站)的描述")]

使用方式1:使用 ResponseSchema

python 复制代码
from langchain.agents import create_agent
from langchain_openai  import ChatOpenAI

Qwen2_5_7B_Instruct_llm = ChatOpenAI(
    temperature=0.1,  # 控制输出的随机性和创造性,值越低输出越稳定可预测,值越高输出越有创意但可能偏离预期 (范围: 0.0 ~ 2.0)
    model_name="Qwen/Qwen2.5-7B-Instruct",  # 硅基流动支持的模型名称
    openai_api_key=os.getenv("SILICONFLOW_API_KEY"),  # 从环境变量获取API密钥
    openai_api_base="https://api.siliconflow.cn/v1"  # 硅基流动API的基础URL
)
template="尽可能好地回答用户的问题。\n{format_instructions}\n{question}"

agent = create_agent(
    model=Qwen2_5_7B_Instruct_llm,
    response_format=ResponseSchema,  # Agent 最终返回结构化格式
    system_prompt=system_prompt
)
agent.invoke({"question": "世界上最大的沙漠是什么?"})

使用方式2:使用 PydanticOutputParser

python 复制代码
from langchain.agents import create_agent
from langchain_openai  import ChatOpenAI
from langchain_core.output_parsers import PydanticOutputParser

Qwen2_5_7B_Instruct_llm = ChatOpenAI(
    temperature=0.1,  # 控制输出的随机性和创造性,值越低输出越稳定可预测,值越高输出越有创意但可能偏离预期 (范围: 0.0 ~ 2.0)
    model_name="Qwen/Qwen2.5-7B-Instruct",  # 硅基流动支持的模型名称
    openai_api_key=os.getenv("SILICONFLOW_API_KEY"),  # 从环境变量获取API密钥
    openai_api_base="https://api.siliconflow.cn/v1"  # 硅基流动API的基础URL
)
template="尽可能好地回答用户的问题。\n{format_instructions}\n{question}"

parser = PydanticOutputParser(pydantic_object=ResponseSchema)
prompt = template.format(format_instructions=parser.get_format_instructions())

chain = prompt | Qwen2_5_7B_Instruct_llm | output_parser  # 连接提示词、模型和输出解析器

# 提问:"世界上最大的沙漠是什么?"
chain.invoke({"question": "世界上最大的沙漠是什么?"})

使用流式输出

使用 chain.stream方法来接收对 question的流式响应:"一支足球队有多少名球员?"

python 复制代码
for chunk in chain.stream({"question": "一支足球队有多少名球员?"}):
    print(chunk)
名球员?"
```python
for chunk in chain.stream({"question": "一支足球队有多少名球员?"}):
    print(chunk)
相关推荐
云杂项4 小时前
Exploring Model Inversion Attacks in the Black-box Setting(个人笔记)
人工智能
还卿一钵无情泪5 小时前
Unsloth 微调 构建自己的大模型 没有GPU也能微调
linux·开发语言·人工智能·python·大模型·nlp·unsloth
冬奇Lab5 小时前
LLM 驱动的自动化测试系列(06):移动端自动化(二)——DroidRun/Mobilerun 的角色级模型拆分
人工智能·测试
冬奇Lab6 小时前
一天一个开源项目(第230篇):HandRaw-Style —— 把 327 种手绘风格、165 种排版、36 种配色编号化,让 AI 画图不再每次都飘
人工智能·开源·资讯
罗西的思考6 小时前
从陶哲轩的访谈看:AI 数学研究方法论 & 给其它行业的启示
人工智能
学...6 小时前
软件学报 2023 论文《面向复杂约束优化问题的进化算法综述》阅读笔记
人工智能·ga·cmop
xhy_07076 小时前
AI 在同一步上反复打转怎么办?WES Code 循环检测怎么用
人工智能·大模型·ai编程·wes code
鱼宵7 小时前
Spring AI 提示词模板:{变量} 参数化 + few-shot,一条提示词反复用
java·人工智能·spring·few-shot·提示词工程·springai
蜗牛互联网7 小时前
Python消费Responses SSE事件:增量文本、超时与取消
java·开发语言·人工智能·后端·python
架构师那点事儿7 小时前
大模型如何私有化部署到生产环境
人工智能·架构·llm