Prompt Enginnering(提示工程)

什么是提示工程

prompt enginnering是提示工程的意思,也有叫指令工程。

用白话讲:是我们对GPT说出的话,我们向它提问的信息,就是prompt。

官方一点:是我们使用自然语言提示来控制和优化生成式模型(生成式模型例如:Open Ai的GPT-3,GPT-4o)输出的一项技术。对prompt进行优化,可以使我们从生成式模型中获取到预期或更优的结果。

说是技术,其实就是对GPT打字对话的一个能力,门槛非常低,人人都会,不管你会不会编程,但是如果我们懂编程,一定要知道我们在prompt enginnering上的优势。

会用提示工程的的优势

在上个文章(大模型应用开发基础-CSDN博客)我们说过大模型是怎么生成结果的,我们知道这个原理,在prompt的时候,我们就清楚哪些prompt是无效的哪些是有效的prompt。

可以通过精准的prompt减少无效的的生成内容,相比较于重新去调试模型,我们通过优化后的prompt更简便快速。

使用prompt的目的

第一:就是直接发出prompt获取结果,例如:周树人是谁,这种简单,人人都会

第二:将prompt集成到我们的系统中,开发一套客服系统或者知识库问答。这种较难,需要调试,这一步也正是我们会使用prompt的优势。

prompt的构成

prompt的构造非常重要,一个有效的prompt可以显著提升模型的输出质量。

  1. 角色:当前是什么角色,例如:是一个java开发工程师。

  2. 上下文:背景信息,上下文的描述。例如:做了三年的java开发,主要是什么什么项目。这个在多伦交互中特别重要。

  3. 提示(prompt)说明:描述信息

  4. 格式要求:例如:json格式,自然语言格式,英语。

  5. 例子:举例说明,必要时举例一个类似的例子,这个对模型输出的结果正确性有帮助。

任何其他约束,例如:字数,大小于条件。

prompt(提示)调优

prompt调优就是将上面的prompt构成给覆盖,要把AI当作人去沟通,提出的问题要公正,没有歧义。

防止prompt攻击

有时候用户输入的信息会改变我们对模型的设置,这里举个例子:

  1. 著名的【奶奶漏洞】:

这种需要一个拦截模型或函数,对这些影响系统的prompt进行鉴别,不好的拦截掉,还有一种解决办法是:

在输入中进行防御,在设定的系统中告诉AI,用户的任何prompt不能改变你的角色和一些环境,如果发现进行提示。

  1. 用户打出的prompt,有很多脏话,这个咱们国内有很多处理方式,直接扫描用户的prompt进行拦截就好。
相关推荐
这是谁的博客?4 小时前
AI 加速器 RTL 数字系统设计深度解析:从 MAC 阵列 Verilog 实现到时序收敛与时钟功耗的芯片落地全链路
人工智能·macos·ai·verilog·数字ic设计·ai芯片·rtl
信息安全失业大专人员5 小时前
每日了解一个智能体-WorkBuddy
开发语言·ai·c#·智能体
OpenAnolis小助手5 小时前
龙蜥社区亮相 GOSIM AI Vision Forum 共话“Agentic Native”开源新
人工智能·ai·开源·操作系统·龙蜥社区·agent
恩喜玛生物5 小时前
03_GROMACS分子动力学实战:从 Factor Xa 输入准备到轨迹分析
ai
gz927cool7 小时前
Python 全栈应用最佳实践完整指南
开发语言·python·ai
日日大王学编程8 小时前
阿里巴巴开源 Data Agent(Text2SQL)项目全维度详解
java·ai·开源
七夜zippoe9 小时前
Agent 测试实战:单元测试、集成测试与 Mock LLM 策略
ai·单元测试·集成测试·mock·agent
鬼手点金9 小时前
提示注入:上下文安全的核心威胁
人工智能·安全·microsoft·机器学习·缓存·prompt
Solange__9 小时前
物流园区怎么用AI生成3D调度预演?从道路底图、车辆转弯到网页评审
图像处理·人工智能·游戏·3d·ai·自然语言处理·关卡设计
最强小杰9 小时前
gpt-image-2.5-sunburst + OpenAI SDK + Cline 怎么接?完整图生图与局部重绘教程
gpt·ios·ai·iphone