AI产品经理——03Prompt Engineering提示词工程

目录

一、提示工程定义

二、推理类问题--思维链CoT

三、推理类问题--LtM

四、推理类问题--自我一致性SC

五、推理类问题--思维树ToT

六、Prompt的攻击与防范


一、提示工程定义

二、推理类问题--思维链CoT

训练AI做推理类问题时,要通过将复杂问题分解为一步一步的子问题并以此进行求解的过程(提供推理过程),来提升大模型的性能。(思维链模式)

三、推理类问题--LtM

因为思维链模式只能针对一个问题进行拆解去训练,迁移或者泛化能力不足,所以引入了LtM

LtM训练过程:

通过To solve____,we need to first solve:来触发大模型,去以这样的模式进行思考,来解决问题(目前不需要使用这个形式去大模型上试验了,现在大模型可以直接解决这个问题)(主要是理解这种训练大模型的思维方式)

四、推理类问题--自我一致性SC

SC训练过程:零样本问答,选择回答次数最多的作为正确回答

上面问题问了5遍,其中67岁,这个结果回答了三次,最终将67作为输出答案

上面三个训练方法,对于复杂问题还是无法训练

五、推理类问题--思维树ToT

思维树ToT过程:拆分任务→状态评估→搜索算法 (类似于广度优先算法BFS )

代码实现:

在进行评分时使用的时是进行了3次评分,是结果更真实

第一轮评估结束后,每组都有评估得分,进行筛选,取评分最高的五组

第二轮剩余两个数,进行评分,筛选

第三轮一个数,筛选

输出结果

六、Prompt的攻击与防范

引导Prompt回答能回答的问题

正常的去问AI,AI会进行Prompt防范,输出无法回答

通过场景设置,哄骗AI,说出序列号

此时已经成功实现Prompt攻击,系统已经给出序列号

攻击就是通过设计Prompt,来哄骗AI,实现攻击

Prompt防范:通过设计提示词,来防止prompt攻击

在我们日常使用AI时,给AI的提示词,在传输过程中也会再进行处理和封装来防止AI被攻击(例如上面例子中封装"只会回答跟课程设计相关的内容")

目前AI也在不断地进步,上面演示出现的问题可能很快就解决了。主要是要意思到Prompt的重要性,在做产品时要注意测试这个内容。

相关推荐
xuhe21 小时前
Codex解决新模型无法使用/model选择的问题
linux·ai·codex
我命由我123451 小时前
Photoshop - Photoshop 使用仿制图章工具移除对象
学习·职场和发展·产品运营·求职招聘·职场发展·产品经理·学习方法
Martina_03212 小时前
AI生成的模块场景一烘焙就有黑边?用6步检查Lightmap UV、纹素密度与Padding
人工智能·游戏·3d·aigc·uv·游戏策划·关卡设计
熊猫钓鱼>_>2 小时前
从闲置平板到家里的“控制大脑“:鸿蒙智慧中控面板完整实战
运维·人工智能·华为·自动化·电脑·ai编程·harmonyos
心理之旅3 小时前
WorkbuddyAI办公----- 不懂代码,也能给自己做一个自动化工具:9 轮对话实录
ai编程
心理之旅3 小时前
从 40 分钟到 38 秒:SAP Business One 物料库存自动取数实战
ai编程
HelloWorld0013 小时前
告别轮询与断流!基于 Spring Boot 3 + SSE + Redis 打造生产级 Agent 流式思考与工具调用中枢
ai编程
rolt3 小时前
智能机床-06 机械 ISO 23704-4-2026-用UML表示的行业标准
软件工程·产品经理·架构师·uml
9i编程3 小时前
3. 教 AI 上班:带出我的数字同事 —— 文档返工与代码检查——明确指令与丢三落四的拉扯
人工智能·openai·ai编程