AI产品经理——03Prompt Engineering提示词工程

目录

一、提示工程定义

二、推理类问题--思维链CoT

三、推理类问题--LtM

四、推理类问题--自我一致性SC

五、推理类问题--思维树ToT

六、Prompt的攻击与防范


一、提示工程定义

二、推理类问题--思维链CoT

训练AI做推理类问题时,要通过将复杂问题分解为一步一步的子问题并以此进行求解的过程(提供推理过程),来提升大模型的性能。(思维链模式)

三、推理类问题--LtM

因为思维链模式只能针对一个问题进行拆解去训练,迁移或者泛化能力不足,所以引入了LtM

LtM训练过程:

通过To solve____,we need to first solve:来触发大模型,去以这样的模式进行思考,来解决问题(目前不需要使用这个形式去大模型上试验了,现在大模型可以直接解决这个问题)(主要是理解这种训练大模型的思维方式)

四、推理类问题--自我一致性SC

SC训练过程:零样本问答,选择回答次数最多的作为正确回答

上面问题问了5遍,其中67岁,这个结果回答了三次,最终将67作为输出答案

上面三个训练方法,对于复杂问题还是无法训练

五、推理类问题--思维树ToT

思维树ToT过程:拆分任务→状态评估→搜索算法 (类似于广度优先算法BFS )

代码实现:

在进行评分时使用的时是进行了3次评分,是结果更真实

第一轮评估结束后,每组都有评估得分,进行筛选,取评分最高的五组

第二轮剩余两个数,进行评分,筛选

第三轮一个数,筛选

输出结果

六、Prompt的攻击与防范

引导Prompt回答能回答的问题

正常的去问AI,AI会进行Prompt防范,输出无法回答

通过场景设置,哄骗AI,说出序列号

此时已经成功实现Prompt攻击,系统已经给出序列号

攻击就是通过设计Prompt,来哄骗AI,实现攻击

Prompt防范:通过设计提示词,来防止prompt攻击

在我们日常使用AI时,给AI的提示词,在传输过程中也会再进行处理和封装来防止AI被攻击(例如上面例子中封装"只会回答跟课程设计相关的内容")

目前AI也在不断地进步,上面演示出现的问题可能很快就解决了。主要是要意思到Prompt的重要性,在做产品时要注意测试这个内容。

相关推荐
狼爷6 小时前
看懂了历史,为什么你反而更怕 AI
aigc
Csvn7 小时前
同一个问题问 100 遍,钱就扣 100 次?精确缓存让它只扣一次(C02)
人工智能·aigc·agent
XLYcmy9 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 上
llm·prompt·模糊测试·漏洞修复·漏洞检测·deepseek·消融实验
小七-七牛开发者10 小时前
周 1 上线 | DSH 喜提原神进场动画,Anthropic 启动 IPO 路演;黄仁勋辞任;微软全球大宕机超 24 小时
ai·大模型·agent·token·工作流·claudecode·ai coding
ZhengEnCi10 小时前
项目越写越乱?先别改架构:用一次目录重排 + 一份可复算的体检脚本把乱治住
python·架构·ai编程
Karl_fang10 小时前
🥳 再也不用拿起手机抄验证码!我做了一个 Android → Mac 的「验证码接力」工具
前端·macos·ai编程
GISer_Jing10 小时前
GitHub热点I
后端·ai·langchain
ZhengEnCi11 小时前
AI 规则越多越费 Token:无关规则让每次回答多耗 46% 的规则体检提示词
aigc·ai编程·claude
XLYcmy11 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 下
机器学习·llm·prompt·api·token·漏洞修复·漏洞检测
谭光志11 小时前
如何让 AI 高效工作
前端·后端·ai编程