RAG开发

LangChain通用提示词模板:

复制代码
from langchain_core.prompts import PromptTemplate
from langchain_community.llms import Tongyi

prompt_template = PromptTemplate.from_template(
    "我的邻居姓{lastname},刚生了{gender}"
)

prompt_template.format(lastname = "张",gender = "男")

model = Tongyi(model = "qwen-max")

res = model.invoke(input = prompt_template)

print(res)

链式写法:

复制代码
from langchain_core.prompts import PromptTemplate
from langchain_community.llms import Tongyi

prompt_template = PromptTemplate.from_template(
    "我的邻居姓{lastname},刚生了{gender}"
)

model = Tongyi(models = "qwen-max")

chain = prompt_template | model
res=chain.invoke(input={"lastname":"张","gender":"男"})
print(res)

FewShot提示词模板

复制代码
from langchain_core.prompts import PromptTemplate,FewShotPromptTemplate
from langchain_community.llms.tongyi import  Tongyi

example_template = PromptTemplate.from_template(
    "单词:{word},反义词:{antonym}"
)

example_data = [
    {"word":"大","antonym":"小"},
    {"word":"上","antonym":"下"}
]

few_shot_template = FewShotPromptTemplate(
    example_prompt=example_template,      #示例数据模板
    examples = example_data,              #示例的数据
    prefix = "告知我单词的反义词,我提供如下的示例",           #示例之前的提示词
    suffix = "基于前面的示例告诉我,{input_word}的反义词是?",       #示例之后的提示词
    input_variables = ['input_word']          #声明在前缀或后缀中所需注入的变量名
)

prompt_text = few_shot_template.invoke(input={"input_word":"左"}).to_string()
print(prompt_text)

在PromptTemplate(通用提示词模板)和FewShotPromptTemplate(FewShot提示词模板)的使用,我们使用了如下:模板对象的format方法,模板对象的invoke方法

PromptTemplate,FewShotPromptTemplate,ChatPromptTemplate(后续学习)都拥有format和invoke这2类方法

format和invoke的区别在于:

ChatPromptTemplate:

通过from_messages方法,从列表中获取多轮次会话作为聊天的基础模板

前面PromptTemplate类用的from_template仅能接入一条消息,而from_messages可以接入一个list消息

复制代码
from langchain_core.prompts import ChatPromptTemplate,MessagesPlaceholder
from langchain_community.chat_models.tongyi import ChatTongyi

chat_prompt_template = ChatPromptTemplate.from_messages(
    [
        ("system","你是一个边塞诗人"),
        MessagesPlaceholder("history"),
        ("human","请再来一首")
    ]
)

history_data =[
    ("human","你来写一个唐诗"),
    ("ai","川黔")
]

prompt_text = chat_prompt_template.invoke({"history":history_data}).to_string()

链

LangChain中链是一种将各个组件串联在一起,按顺序执行,前一个组件的输出作为下一组件的输入

可以通过"|"符号来让各个组件形成链

成链的各个组件,需是Runnable接口的子类

形成的链式RunnableSerializable对象(Runnabl接口子类)

可通过链调用invoke或stream触发整个链条的执行

错误的主要原因是:

chain = prompt | model | model

错误的主要原因是:

prompt的结果是PromptValue类型,输入给了model

model 的输出结果是: AIMessage

模型(ChatTongyi)源码中关于invoke方法明确指定了input的类型:

StrOutputParser也是Runnable接口的子类

StrOutputParser字符串输出解析器是LangChain内置的简单字符串解析器

parser = StrOutputParser()

chain = prompt | model |parser | model

parser将上一个模型AIMessage结果解析为简单字符串,然后就能继续下去了

提示词模板要求的是字典类型

所以我们需要完成:

将模型输出的AIMessage - >转为词典->注入第二个提示词模板中,形成新的提示词

StrOutputParser不满足(AIMessage->Str)

更换JsonOutputParser(AIMseaage->Dict)

  1. 模型输入: PromptValue或字符串或序列(BaseMessage,list,tuple,str,dict)

  2. 模型输出: AIMessage

  3. 提示词模板输入: 要求是字典

  4. 提示词模板输出: PromptValue对象

  5. StrOutputParser: AIMsaage输入,str输出

  6. JsonOutputParser: AIMessage输入,dict输出

自定义类型转换器

除了JsonOutputParser这类固定功能的解析器外,我们也可以自己编写Lambda匿名函数来完成自定义逻辑的数据转换,想怎么换就怎吗换,可以基于RunnableLambda类实现

另外,|符号是支持函数直接加入链的,支持Callable接口实例(函数就是Callable接口实例)

相关推荐
程序员大阳27 分钟前
副队长Vue3教程(2)--Vite 搭建 Vue 项目,认识目录结构
前端·javascript·vue.js·vite·创建项目·目录结构·项目结构
濮水大叔35 分钟前
Cabloy/Zova 与 Next.js 的 SSR 水合差异
前端·typescript·next.js
SoaringHeart1 小时前
Flutter最佳实践:用 flutter_html 渲染富文本
前端·flutter
Resean02231 小时前
Spring 源码分析(二)配置类的解析与扫描
java·后端·spring
小毛球.2 小时前
第 3 篇:IDEA 最新版下载与完整安装教程(Mac)
java·macos·intellij-idea·idea
Flynt2 小时前
Chrome给AI编程助手塞了203篇前端规范,我拆包实测:检索0.77秒是真快,扫描器有点挑食
前端·chrome·ai编程
北城笑笑3 小时前
Vue 110 ,若依SSE流式接口限次空500排查与解决
前端·javascript·vue.js·后端·vue
Misnearch3 小时前
ScheduledExecutorService
java·线程池
程序员韩星3 小时前
OpenAI 兼容接口返回 404,先查请求地址,再查模型名
前端·人工智能·http
Patrick_Wilson3 小时前
构建通过了,为什么有些浏览器还会白屏?
前端·javascript·浏览器