04. 提示词(Prompt)

提示词(prompt)是一种向模型提供的输入。

提示词模板

一个简单的例子

python 复制代码
from langchain import PromptTemplate

# 设置模板template
template = """你是一名精通多门语言,专业的翻译家。你的任务是从{src_lang}翻译到{dst_lang}"""

# 实例化对象prompt
# from_template方法:从模板加载提示词模板(Load a prompt template from a template)
prompt = PromptTemplate.from_template(template)

# prompt对象调用format方法生成提示词
# format使用输入设置模板参数,返回格式化字符串
prompt.format(src_lang = "英语", dst_lang = "中文")

你应该能看到下面的输出

你是一名精通多门语言,专业的翻译家。你的任务是从英语翻译到中文

format函数:使用输入设置提示词(Format the prompt with the inputs),返回格式化的字符串

创建模板

langchian框架中提供基础模板类PromptTemplate,它包含两个参数

  1. input_variables ------------输入变量

  2. template ------------模板

使用{}符号将变量替换到模板中,如PromptTemplate( input_variables = ["name"], template = "My name is {name}"。)

模板的实例化通过模板类实例的format实现。

python 复制代码
# 导入PromptTemplate类
from langchain import PromptTemplate


# 实例化对象multiple_input_prompt
multiple_input_prompt = PromptTemplate(input_variables = ["color", "animal"], 
                template = "a {color} {animal}.")

# 调用format函数,生成提示词
multiple_input_prompt.format(color = "black", animal = "bear")

应该能看到如下输出

a black bear.

聊天提示词模板

聊天模型如GPT,输入一系列消息列表,每条消息都有对应的角色,这个消息列表通常以一定的格式串联,构成模型的输入,也就是提示词。

在OpenAI的Chat Completion API中,聊天消息和assistant,human,system角色关联

langchain提供了一些列模板,更简洁的使用构建和处理提示词。官方文档提醒,在于聊天模型交互时,优先使用这些与聊天相关的模板,有助于提高模型效率。

SystemMessagePromptTemplate,AIMessagePromptTemplate,AssistantMessagePromptTemplate分别构建不同角色的提示词模板。

python 复制代码
from langchain.prompts import (
    ChatPromptTemplate,
    PromptTemplate,
    SystemMessagePromptTemplate,
    AIMessagePromptTemplate,
    HumanMessagePromptTemplate,    
)

from langchain.schema import (
    SystemMessage,
    AIMessage,
    HumanMessage  
)

# system提示词
system_message = "You are a professional translator that translate {src_lang} to {dst_lang}"
# 从system_message中加载提示词模板
system_message_prompt = SystemMessagePromptTemplate.from_template(system_message)

# human提示词是用户输入
human_message = "{user_input}"
human_message_prompt = HumanMessagePromptTemplate.from_template(human_message)


chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])
chat_prompt.format_prompt(
    src_lang = "English",
    dst_lang = "Chinese",
    user_input = "Did you eat in this morning"
).to_messages()

SystemMessage(content='You are a professional translator that translate English to Chinese', additional_kwargs={}), HumanMessage(content='Did you eat in this morning', additional_kwargs={}, example=False)

样本选择器

在开发LLM相关应用中,可能需要从大量样本数据中,选择部分数据包含在提示词中。样本选择器(Example Selector)正是应对这种需求,通常与提示词配合使用。langchain框架封装了基础选择器BaseExampleSelector。

本文以基于长度的样本选择器(输入越长,选择样本越少;输入越短,选择样本越多)

LengthBaseExampleSelector为例,进行演示。

python 复制代码
from langchain.prompts import PromptTemplate
from langchain.prompts import FewShotPromptTemplate
from langchain.prompts.example_selector import LengthBasedExampleSelector

# 样本
examples = [
    {"input":"happy", "output":"sad"},
    {"input":"tall", "output":"short"},
    {"input":"energetic", "output":"lethargic"},
    {"input":"sunny", "output":"gloomy"},
    {"input":"windy", "output":"calm"}
]

# 实例化提示词模板
example_prompt = PromptTemplate(
    input_variables = ["input", "output"],
    template = "Input: {input}\nOutput: {output}"
)

# 实例化样本选择器
example_selector = LengthBasedExampleSelector(
    # 可选的样本数据
    examples = examples,
    # 提示词模板
    example_prompt = example_prompt,
    # 格式化的样本数据的最大长度,通过get_text_length函数统计
    max_length = 25    
)


# 实例化模板
dynamic_prompt = FewShotPromptTemplate(
    example_prompt = example_prompt,
    example_selector = example_selector,
    prefix = "Give the antonym of every input",
    suffix = "Input:{adjective}\nOutput: ",
    input_variables = ["adjective"]
)

print(dynamic_prompt.format(adjective = "big"))

你应该能看到如下输出:

Give the antonym of every input

Input: happy

Output: sad

Input: tall

Output: short

Input: energetic

Output: lethargic

Input: sunny

Output: gloomy

Input: windy

Output: calm

Input: big

Output:

总结:本节介绍Prompt,langchain中提供PromptTemplate和Example Selector两种Prompt。

学习创建简单的模板,聊天模板以及样本选择器事例。

相关推荐
小牛头#4 小时前
clickhouse 各个引擎适用的场景
大数据·clickhouse·机器学习
杨小扩5 小时前
第4章:实战项目一 打造你的第一个AI知识库问答机器人 (RAG)
人工智能·机器人
whaosoft-1435 小时前
51c~目标检测~合集4
人工智能
雪兽软件5 小时前
2025 年网络安全与人工智能发展趋势
人工智能·安全·web安全
元宇宙时间6 小时前
全球发展币GDEV:从中国出发,走向全球的数字发展合作蓝图
大数据·人工智能·去中心化·区块链
小黄人20257 小时前
自动驾驶安全技术的演进与NVIDIA的创新实践
人工智能·安全·自动驾驶
ZStack开发者社区8 小时前
首批 | 云轴科技ZStack加入施耐德电气技术本地化创新生态
人工智能·科技·云计算
X Y O9 小时前
神经网络初步学习3——数据与损失
人工智能·神经网络·学习
kngines9 小时前
【力扣(LeetCode)】数据挖掘面试题0002:当面对实时数据流时您如何设计和实现机器学习模型?
机器学习·数据挖掘·面试题·实时数据
唯创知音9 小时前
玩具语音方案选型决策OTP vs Flash 的成本功耗与灵活性
人工智能·语音识别