【提示工程】Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

解决问题

探索大语言模型解决推理问题的能力。从头训练或微调模型,需要创建大量的高质量含中间步骤的数据集,成本过大。

相关工作

1、使用中间步骤来解决推理问题

(1)使用自然语言通过一系列中间步骤解决数学应用题

(2)通过创建更大的数据集微调语言模型,而不是从头训练

(3)使用语言模型一行一行的预测中间结果预测最终输出

2、采用提示方式

(1)少样本提示

(2)自动学习提示

(3)描述任务的模型指令

本文采用一系列思维来增强语言模型的输出

创新方法

采用由自然语言描述逻辑推理过程 ,构建成一条解决问题步骤的思维链,以Prompt的形式进行few-shot提示。

可采用COT的条件

COT对满足以下三个条件的任务会有帮助:

(1)需要完成具有挑战性的多步推理任务

(2)需要用到大语言模型

(3)缩放曲线相对平滑

缺少上述任意一个条件,都可能会影响性能。

优势

(1)可将问题拆解为多个步骤解决

(2)提供可解释性,便于调试

(3)应用任务领域广

(4)加入少量示例就可以引出COT

(5)few-shot中示例不需要与测试示例来自同一个样本分布

(6)示例顺序对性能影响较小,具有一定的鲁棒性

(7)最开始增加样例数量时候,对性能提升有帮助,达到一定数量后继续增加样例数量对性能改善较小

结论

我们探索了思维链提示作为一个简单且广泛适用的方法来增强语言模型的推理。通过算术推理、符号推理和常识推理的实验,我们发现思维链推理是模型尺度的一种新特性,它允许足够大的语言模型执行原本为平坦尺度曲线的推理任务。扩大语言模型可以执行的推理任务的范围将有望激发基于语言推理方法的进一步工作。

相关推荐
不喝水就会渴几秒前
【共创季稿事节】HarmonyOS 7.0 时代的新基建 :DevEco CLI + Claude Code,鸿蒙 AI 开发的黄金搭档
人工智能·华为·harmonyos
星河耀银海2 分钟前
大模型和搜索引擎到底有什么不一样
人工智能·搜索引擎
沪漂阿龙3 分钟前
《LangChain》成本、限流、缓存、降级:AI 应用上线要考虑的问题
人工智能·langchain
一切皆是因缘际会6 分钟前
RLHF奖励坍塌:大模型Reward漂移机理
人工智能·数学建模·ai
阿庆_AI研发工程师11 分钟前
从 OpenAI Codex 源码看生产级 AI Agent Runtime 的工程模式
人工智能
武子康12 分钟前
调查研究-177 Agent / Harness 工具链研究:从会调用工具的 LLM,到可观测、可验证、可交付的智能体系统
人工智能
集芯微电科技有限公司12 分钟前
四通道2A输出集成功率电感降压模块专为紧凑型方案设计
人工智能·单片机·嵌入式硬件·生成对抗网络·计算机外设
朱大喜15 分钟前
NumPy 性能优化:内存布局、向量化与原地操作的实战经验
人工智能
常宇杏起在26 分钟前
AI安全专项:AI云服务的安全风险与防护策略
人工智能
cooldog123pp26 分钟前
cplex完全安装手册,适配matlab和python!
人工智能·python·matlab·cplex