【提示工程】Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

解决问题

探索大语言模型解决推理问题的能力。从头训练或微调模型,需要创建大量的高质量含中间步骤的数据集,成本过大。

相关工作

1、使用中间步骤来解决推理问题

(1)使用自然语言通过一系列中间步骤解决数学应用题

(2)通过创建更大的数据集微调语言模型,而不是从头训练

(3)使用语言模型一行一行的预测中间结果预测最终输出

2、采用提示方式

(1)少样本提示

(2)自动学习提示

(3)描述任务的模型指令

本文采用一系列思维来增强语言模型的输出

创新方法

采用由自然语言描述逻辑推理过程 ,构建成一条解决问题步骤的思维链,以Prompt的形式进行few-shot提示。

可采用COT的条件

COT对满足以下三个条件的任务会有帮助:

(1)需要完成具有挑战性的多步推理任务

(2)需要用到大语言模型

(3)缩放曲线相对平滑

缺少上述任意一个条件,都可能会影响性能。

优势

(1)可将问题拆解为多个步骤解决

(2)提供可解释性,便于调试

(3)应用任务领域广

(4)加入少量示例就可以引出COT

(5)few-shot中示例不需要与测试示例来自同一个样本分布

(6)示例顺序对性能影响较小,具有一定的鲁棒性

(7)最开始增加样例数量时候,对性能提升有帮助,达到一定数量后继续增加样例数量对性能改善较小

结论

我们探索了思维链提示作为一个简单且广泛适用的方法来增强语言模型的推理。通过算术推理、符号推理和常识推理的实验,我们发现思维链推理是模型尺度的一种新特性,它允许足够大的语言模型执行原本为平坦尺度曲线的推理任务。扩大语言模型可以执行的推理任务的范围将有望激发基于语言推理方法的进一步工作。

相关推荐
70asunflower3 分钟前
别再混淆 CUDA 的三个版本:`nvidia-smi`、`nvcc`、`torch.version.cuda` 一次讲清
人工智能
就是一顿骚操作18 分钟前
词嵌入 word2vec:Skip-Gram 与 CBOW 经典解读
人工智能·自然语言处理·word2vec·论文解读
阳光是sunny18 分钟前
LangGraph实战教程:控制流详解
前端·人工智能·后端
黄华SJ520it24 分钟前
AI智能穿搭系统开发:从技术选型到落地实践
人工智能·系统开发
szxinmai主板定制专家1 小时前
RK3568+FPGA高速并行采集|半导体探针测试设备多通道同步数据采集系统设计
人工智能·嵌入式硬件·计算机视觉·fpga开发
心如鉄补1 小时前
FastAPI Agent 函数调用实战:我让 AI 学会了“自己动手查天气“
人工智能·fastapi
旅僧2 小时前
Q-learning(自用)
python·机器学习
QN1幻化引擎2 小时前
两个 AI 互相“创造自己“:Dalin X × Dalin L 自创造闭环全记录
大数据·人工智能
smartpi_ai2 小时前
离线语音识别的“数字变量“限制:为什么不能识别“20.5度“?
人工智能·语音识别·xcode
IT小盘2 小时前
05-企业项目统一接入多个大模型-适配器模式实战
前端·人工智能·适配器模式