AI产品经理——03Prompt Engineering提示词工程

目录

一、提示工程定义

二、推理类问题--思维链CoT

三、推理类问题--LtM

四、推理类问题--自我一致性SC

五、推理类问题--思维树ToT

六、Prompt的攻击与防范


一、提示工程定义

二、推理类问题--思维链CoT

训练AI做推理类问题时,要通过将复杂问题分解为一步一步的子问题并以此进行求解的过程(提供推理过程),来提升大模型的性能。(思维链模式)

三、推理类问题--LtM

因为思维链模式只能针对一个问题进行拆解去训练,迁移或者泛化能力不足,所以引入了LtM

LtM训练过程:

通过To solve____,we need to first solve:来触发大模型,去以这样的模式进行思考,来解决问题(目前不需要使用这个形式去大模型上试验了,现在大模型可以直接解决这个问题)(主要是理解这种训练大模型的思维方式)

四、推理类问题--自我一致性SC

SC训练过程:零样本问答,选择回答次数最多的作为正确回答

上面问题问了5遍,其中67岁,这个结果回答了三次,最终将67作为输出答案

上面三个训练方法,对于复杂问题还是无法训练

五、推理类问题--思维树ToT

思维树ToT过程:拆分任务→状态评估→搜索算法 (类似于广度优先算法BFS )

代码实现:

在进行评分时使用的时是进行了3次评分,是结果更真实

第一轮评估结束后,每组都有评估得分,进行筛选,取评分最高的五组

第二轮剩余两个数,进行评分,筛选

第三轮一个数,筛选

输出结果

六、Prompt的攻击与防范

引导Prompt回答能回答的问题

正常的去问AI,AI会进行Prompt防范,输出无法回答

通过场景设置,哄骗AI,说出序列号

此时已经成功实现Prompt攻击,系统已经给出序列号

攻击就是通过设计Prompt,来哄骗AI,实现攻击

Prompt防范:通过设计提示词,来防止prompt攻击

在我们日常使用AI时,给AI的提示词,在传输过程中也会再进行处理和封装来防止AI被攻击(例如上面例子中封装"只会回答跟课程设计相关的内容")

目前AI也在不断地进步,上面演示出现的问题可能很快就解决了。主要是要意思到Prompt的重要性,在做产品时要注意测试这个内容。

相关推荐
码哥字节8 分钟前
大厂程序员写 AI 编程半年来,我的 3 次认知推翻与 1 次生存顿悟
ai编程·claude
CVNot8 分钟前
AI让程序员失去了什么?
ai编程
没事写点啥18 分钟前
WeKnora 回答溯源
前端·后端·ai编程
产品人卫朋18 分钟前
MTL如何把市场机会转化为有效销售线索?
人工智能·华为·产品经理·ipd流程·流程架构·mtl流程
骑着蜗牛撵大象3271 小时前
让 Codex 值夜班:把告警排查与巡检接成可回滚的自动化链路
android·java·运维·ai·自动化·codex·智能体
玩泥巴的1 小时前
一份声明,多份产物:飞书 SDK 的 AI 工具面是怎么生成的
ai·.net·飞书·agent
king13598745501 小时前
AI Agent 端云协同选型:Node.js 任务成本算例与权限检查清单(2027—2028 展望)
人工智能·ai·node.js·ai agent
掘黄金的打工人1 小时前
AI-Agent python
agent·ai编程
林伽一2 小时前
修复流程被开源成智能体技能,产业侧开始分工|2026年10月26日
人工智能·科技·ai·开源
小七-七牛开发者2 小时前
从 GLM 到 GPT,HarnessPro 如何用 RSI 降低 Agent 成本
ai·大模型·agent·ai coding·harnesspro