Prompt 提示工程学习笔记

一、Prompt设计的四个关键要素:

任务描述、输入数据、上下文信息、提示风格

(1)任务描述 :描述想要让LLM遵循的指令。描述应详细清晰,可进一步使用关键词突出特殊设置,从而更好地指导LLM工作。
(2)输入数据 :对于非结构化数据可用文本描述的方式输入,对于非结构化数据(知识图谱、表格、代码等)采用一种合适的方式,例如:文本化、线性化转换函数。
(3)上下文信息 :上下文和背景信息。有助于更好地描述任务范例、任务目标、特殊的输出格式以及输入和输出之间的映射关系。
(4)提示风格:设置合适的提示风格,有助于激发LLM解决特定任务的能力。例如,角色设定、添加相关前后缀:"Let us think step by step"、拆解为子任务。

二、Prompt设计的四个准则:

任务描述目标清晰、分解为简单的子任务、提供少量示例、使用友好的格式

(1)任务描述目标清晰 :避免莫能两可的描述,导致不精确的返回结构。一个清晰而详细的描述应该包含解释任务的各种元素,例如:任务目标、输入/输出数据、约束要求(字数等信息)
(2)分解为简单的子任务 :将困难任务分解为多个子任务更容易解决问题。可用编号形式列出子任务,例如:1. ... 2. ... 3. ... 。让LLM可以更专注于解决子任务,最终解决整个复杂的任务。
(3)提供少量示例 :提供一些输入输出示例对有助于LLM学习输入和输出之间的语义映射关系。
(4)使用友好的格式 :合适的prompt格式有助于LLM更好的理解指令。例如:OpenAI相关的模型适合使用###"""作为分隔符。训练语料主要为应为的LLM用英语提问的效果更好。

三、Prompt的一些使用技巧

1、任务描述

(1)描述详细

(2)以一个专家角色作为前缀信息

(3)多告诉模型应该做什么,而不是不做什么(否定词)

(4)避免输出长文

2、输入数据

(1)检索相关文档和prompt拼接在一起

(2)使用特殊标记突出重要部分

3、上下文信息

(1)对于复杂的任务,详细描述中间步骤

(2)对于打分的任务,提供打分标准

(3)对于文本生成任务,指导LLM对于上下文上乘的结果进行解释

(4)类似于思维树的方式:多专家讨论,记录每个专家的思考步骤并共享思考步骤,如果有一个专家思考出错,则让他离开,剩下的专家继续思考。如果没出错继续留下来思考。

4、示例

(1)提供良好格式的上下文示例

(2)思维链(一步一步思考),示例用分隔符标注。例如:\n

(3)检索相似的示例,先用示例获取答案,然后再将这个答案和我们的问题拼接

(4)示例多样化,问题或解决方案多样化

(5)使用基于聊天的LLM时,可以将上下文示例分解为多回合信息。同理,可将示例的推理过程分解为多回合对话。

(6)复杂和信息丰富的上下文示例

(7)符号示例分解为多个片段,将前面的片段作为上下文示例,引导LLM预测后面的片段。

(8)示例、提示和问题在prompt中的位置很重要。

(9)没有上下文示例时,可以让LLM生成一些

5、其他设计

(1)让LLM自己检查一下结果是否正确

(2)调用外部工具进行辅助

(3)prompt独立,上下文中减少代词的使用

(4)比较多个示例时,顺序对性能影响较大

(5)角色分配

(6)OpenAI的模型用英文提问更好

(7)做多选题时,限制输出对性能有所帮助。用更详细的解释描述,对逻辑进行限定。

(8)对于基于排序的任务,可以不让LLM直接输出排序后的文本,而是对每个文本段分配一个编号标识符(例如:ABCDE),然后指导LLM输出排序后的编号。

相关推荐
AwhiteV4 小时前
利用图数据库高效解决 Text2sql 任务中表结构复杂时占用过多大模型上下文的问题
数据库·人工智能·自然语言处理·oracle·大模型·text2sql
ReedFoley5 小时前
【笔记】动手学Ollama 第五章 Ollama 在 LangChain 中的使用 - Python 集成
笔记·langchain
月盈缺5 小时前
学习嵌入式的第二十二天——数据结构——双向链表
数据结构·学习·链表
★YUI★7 小时前
学习游戏制作记录(制作系统与物品掉落系统)8.16
学习·游戏·ui·unity·c#
努力还债的学术吗喽7 小时前
【速通】深度学习模型调试系统化方法论:从问题定位到性能优化
人工智能·深度学习·学习·调试·模型·方法论
runfarther9 小时前
搭建LLaMA-Factory环境
linux·运维·服务器·python·自然语言处理·ai编程·llama-factory
Mr Sorry11 小时前
Non-stationary Diffusion For Probabilistic Time Series Forecasting论文阅读笔记
论文阅读·笔记
金井PRATHAMA11 小时前
意象框架:连接感知与认知的统一信息结构分析——基于上古汉语同源词意义系统的词源学与认知语言学探索
人工智能·自然语言处理
南猿北者11 小时前
Cmake学习笔记
笔记·学习·策略模式
码小文12 小时前
Altium Designer 22使用笔记(8)---PCB电气约束设置
笔记·嵌入式硬件·硬件工程·ad22