开源模型应用落地-LangChain实用小技巧-ChatPromptTemplate的partial方法(一)

一、前言

在当今的自然语言处理领域,LangChain 框架因其强大的功能和灵活性而备受关注。掌握一些实用的小技巧,能够让您在使用 LangChain 框架时更加得心应手,从而更高效地开发出优质的自然语言处理应用。


二、术语

**2.1.**LangChain

是一个全方位的、基于大语言模型这种预测能力的应用开发工具。LangChain的预构建链功能,就像乐高积木一样,无论你是新手还是经验丰富的开发者,都可以选择适合自己的部分快速构建项目。对于希望进行更深入工作的开发者,LangChain 提供的模块化组件则允许你根据自己的需求定制和创建应用中的功能链条。

LangChain本质上就是对各种大模型提供的API的套壳,是为了方便我们使用这些 API,搭建起来的一些框架、模块和接口。

LangChain的主要特性:

1.可以连接多种数据源,比如网页链接、本地PDF文件、向量数据库等

2.允许语言模型与其环境交互

3.封装了Model I/O(输入/输出)、Retrieval(检索器)、Memory(记忆)、Agents(决策和调度)等核心组件

4.可以使用链的方式组装这些组件,以便最好地完成特定用例。

5.围绕以上设计原则,LangChain解决了现在开发人工智能应用的一些切实痛点。

**2.2.**ChatPromptTemplate

是 LangChain 框架中用于创建聊天模型提示的类。

2.3.partial方法

用于创建一个部分格式化的提示模板。它允许在创建提示模板时只传入部分变量值,而不需要等待所有变量值都准备好。


三、前提条件

3.1. 基础环境

  1. 操作系统:不限

3.2. 安装虚拟环境

bash 复制代码
conda create --name langchain python=3.10
conda activate langchain
pip install langchain langchain-openai langchain-community

四、技术实现

4.1.partial方法示例

partial方法用于创建一个部分格式化的提示模板。它允许在创建提示模板时,先传入部分变量的值,而不需要等待所有变量值都准备好。这样可以在链式处理中,当某些变量值先获取到,而其他变量值稍后才可用时,使用部分格式化的提示模板继续进行处理。

python 复制代码
import os

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = "sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"

if __name__ == '__main__':
    chat = ChatOpenAI(model="gpt-3.5-turbo", temperature=0.1, max_tokens=256)
    template = '''
        {region}有哪些重点的{advantage}?
        '''
    prompt_template = ChatPromptTemplate.from_template(template)
    prompt_template = prompt_template.partial(region="广东",)
    print(prompt_template)

    chain = prompt_template | chat | StrOutputParser()
    print(chain.invoke({"advantage":"名牌大学"}))

调用结果:

4.2.format方法示例

format方法则用于将提示模板中的占位符替换为具体的变量值,以得到完整的提示字符串。它需要传入所有未被部分格式化的变量的值。

python 复制代码
import os

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = "sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"

if __name__ == '__main__':

    chat = ChatOpenAI(model="gpt-3.5-turbo", temperature=0.1, max_tokens=256)
    template = '''
           {region}有哪些重点的{advantage}?
           '''
    prompt_template = ChatPromptTemplate.from_template(template)
    prompt = prompt_template.format(region="广东",advantage="名牌大学")
    print(prompt)
    print(chat.invoke(prompt).content)

调用结果:

4.3.partial+format方法示例

python 复制代码
import os

from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = "sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"

if __name__ == '__main__':

    chat = ChatOpenAI(model="gpt-3.5-turbo", temperature=0.1, max_tokens=256)
    template = '''
              {region}有哪些重点的{advantage}?
              '''
    prompt_template = ChatPromptTemplate.from_template(template)
    prompt_template = prompt_template.partial(region="广东")
    prompt = prompt_template.format(advantage="名牌大学")
    print(prompt)

    print(chat.invoke(prompt).content)

调用结果:


五、附带说明

5.1. 总结

partial方法用于部分地预先设置提示模板中的变量,而format方法用于最终完成提示模板的格式化,得到完整的提示内容。

相关推荐
源于花海25 分钟前
一文快速预览经典深度学习模型(二)——迁移学习、半监督学习、图神经网络(GNN)、联邦学习
深度学习·迁移学习·图神经网络·gnn·联邦学习·半监督学习
Debroon1 小时前
AdaptFormer:用2%参数,实现视觉Transformer的高效迁移学习,性能超越全量微调(SSv2提升10%,HMDB51提升19%)
深度学习·transformer·迁移学习
临渊羡鱼的猫1 小时前
基础优化方法
人工智能·深度学习·机器学习
红色的山茶花4 小时前
YOLOv9-0.1部分代码阅读笔记-anchor_generator.py
笔记·深度学习·yolo
敖行客 Allthinker5 小时前
让 AMD GPU 在大语言模型推理中崭露头角:机遇与挑战
人工智能·语言模型·自然语言处理
是Dream呀7 小时前
WHAT KAN I SAY?Kolmogorov-Arnold Network (KAN)网络结构介绍及实战(文末送书)
深度学习·神经网络·kan
eric-sjq7 小时前
基于xiaothink对Wanyv-50M模型进行c-eval评估
人工智能·python·语言模型·自然语言处理·github
Crossoads8 小时前
【汇编语言】外中断(一)—— 外中断的魔法:PC机键盘如何触发计算机响应
android·开发语言·数据库·深度学习·机器学习·计算机外设·汇编语言
红色的山茶花9 小时前
YOLOv9-0.1部分代码阅读笔记-hubconf.py
笔记·深度学习·yolo
Hoper.J9 小时前
微调 BERT:实现抽取式问答
人工智能·深度学习·自然语言处理·llm·bert