提示词工程简介Prompt Engineering

前情提要:本篇文章是基于视频2小时彻底掌握提示词工程(Prompt Engineering)中记录下来的学习笔记,推荐再看该学习笔记之前先去blili看此教程

一.什么是提示词工程

提示工程也叫指令工程。Prompt就是你发给大模型的指令,比如「讲个笑话」、「用Python编个贪吃蛇游戏」、「给男/女朋友写封情书」等

在使用Prompt的时候,我们应该达到固化一套Prompt到程序中,成为系统功能的一部分的水平,比如「每天生成本公司的简报」「AI客服系统」「基于公司知识库的问答」

1.2 Prompt调优

找到好的prompt是个持续迭代的过程,需要不断调优。

如果知道训练数据是怎样的,参考训练数据来构造prompt是最好的。「当人看」类比:

  1. 你知道ta爱读红楼梦,就和ta聊红楼梦
  2. 你知道ta十年老阿里,就多说阿里黑话
  3. 你知道ta是日漫迷,就夸ta卡哇伊

不知道训练数据怎么办?

  1. 看 Ta是否主动告诉你。例如已知:OpenAI GPT对Markdown格式友好,Claude对XML友好
  2. 只能不断试了。多一个字少一个字,对生成概率的影响都可能是很大的。「试」是常用方法,确实有运气因素,所以「门槛低、天花板高」

高质量prompt核心要点:

修炼prompt 能力,工夫在平时:

  1. 我们的「群聊天」习惯,天然和prompt背道而驰。随口就说,全是短句,容易歧义
  2. 欧美的「群发邮件」习惯,更占优势。篇篇都是小作文
  3. 让自己在群里也是「小作文」

答案显而易见,是一定需要的,见不同的人肯定要说不同的话。

二.Prompt的典型构成

那么**「定义角色」**为什么有效呢?

模型训练者并没想到过会这样,完全是大家「把AI当人看」玩出的一个实在传得太广,导致现在的大模型训练数据里充满了角色定义,有一篇论文证实的现象,可以说明为啥「你是一个xxx」特别有效

推荐流量包的智能客服

对话系统的基本模块和思路

上面这个图看着可能有点抽象,用对话流程举例:

核心思路:

  1. 把输入的自然语言对话,转成结构化的表示(NLU)
  2. 把结构化的表示,生成策略(DST--->Policy)
  3. 把策略转成自然语言输出(NLG)

用Prompt实现

用逐步调优的方式实现,先搭建基本运行环境

python 复制代码
# 导入依赖库
from openai import OpenAI
from dotenv import load_dotenv, find_dotenv

# 加载 .env 文件中定义的环境变量
_ = load_dotenv(find_dotenv())

# 初始化 OpenAI 客户端
client = OpenAI()  # 默认使用环境变量中的 OPENAI_API_KEY 和 OPENAI_BASE_URL

# 基于 prompt 生成文本
def get_completion(prompt, model="gpt-3.5-turbo"):    # 默认使用 gpt-3.5-turbo 模型
    messages = [{"role": "user", "content": prompt}]  # 将 prompt 作为用户消息
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0,                                # 模型输出的随机程度,0 表示最确定
    )
    return response.choices[0].message.content        # 返回生成的文本内容

实现一个NLU

定义任务描述和输入

由上述结果我们知道他理解了,但是自然语言的输出,不方便我们做策略,于是我们

规定输出格式输出,之后的加例子也类似

所以:

  1. 多轮对话,需要每次都把对话历史带上(是的很费token钱)
  2. 和大模型对话,不会让ta变聪明,或变笨
  3. 但对话历史数据,可能会被用去训练大模型.

三.进阶技巧

3.1 思维链(Chain of Thoughts,CoT)

思维链,是大模型涌现出来的一种神奇能力

  1. 它是偶然被「发现」的(OpenAI的人在训练时没想过会这样)
  2. 有人在提问时以**「Let's think step by step」**开头,结果发现AI 会把问题分解成多个步骤,然后逐步解决,使得输出的结果更加准确。

3.2 自洽性(Self-Consistency)

一种对抗「幻觉」的手段。就像我们做数学题,要多次验算一样。

  • 同样prompt跑多次
  • 通过投票选出最终结果

四.防止Prompt攻击

攻击方式1:著名的「奶奶漏洞」

用套路把AI绕懵。

攻击方式2: Prompt注入

  • 防范措施1:Prompts注入分类器,参考机场安检的思路,先把危险的prompt拦截掉
  • **防范措施2:**直接在输入中防御

五.OpenAI API的几个重要参数

OpenAI提供了两类API:

  1. **Completion API:**续写文本,多用于补全场景
  2. Chat API: 多轮对话,但可以用对话逻辑完成任何任务,包括续写文本

说明:

  1. Chat是主流,有的大模型只提供Chat
  2. 背后的模型可以认为是一样的,但也不完全一样
  3. Chat模型是纯生成式模型做指令微调之后的结果,更多才多艺,更听话

六.用GPTs帮我们写prompt

相关推荐
abigale031 小时前
LangChain:自定义模型・RAG 检索・Agent 原理笔记
langchain·llm·prompt·agent·rag·lcel
旦莫4 小时前
AI生成测试用例:一个Prompt模板让AI从Excel模板生成自动化脚本
人工智能·python·测试开发·自动化·prompt·测试用例
JAVA面经实录9175 小时前
Spring AI 高频开发万能 Prompt 合集 + 生产级工具类
java·人工智能·spring·prompt
HuDie3405 小时前
prompt构建
大数据·人工智能·prompt
拾贰_C17 小时前
【Agent | openai | Streaming | 】流式输出Streaming
ubuntu·面试·prompt
码点滴20 小时前
从“失忆症“到“数智分身“:Hermes Agent 如何重塑你的 AI 交互体验?
人工智能·架构·prompt·ai编程·hermes
猫头虎21 小时前
如何搭建 24 小时 AI 直播平台:魔珐星云数字人打造无人值守 “AI 销冠” 全流程实战教程
人工智能·langchain·开源·prompt·aigc·embedding·agi
Flying pigs~~21 小时前
大模型Prompt-Tuning技术进阶 - 完整总结
人工智能·大模型·prompt
合合技术团队1 天前
智能合同审查搭建教程:低质量PDF怎么处理?先解析清洗,再分路审阅(附GitHub项目地址)
pdf·prompt·github·textin
三无推导1 天前
深入解析 ComposioHQ/awesome-codex-skills:从 Prompt 复用到 AI 工程技能化的实践路径
人工智能·性能优化·开源·prompt·github