Progressive-Hint Prompting Improves Reasoning in Large Language Models

本文是LLM系列的文章,针对《Progressive-Hint Prompting Improves Reasoning

in Large Language Models》的翻译。

渐进提示改进了大型语言模型中的推理

  • 摘要
  • [1 引言](#1 引言)
  • [2 相关工作](#2 相关工作)
  • [3 渐进提示Prompting](#3 渐进提示Prompting)
  • [4 实验](#4 实验)
  • [5 结论](#5 结论)
  • [6 实现细节](#6 实现细节)
  • [7 不足与未来工作](#7 不足与未来工作)
  • [8 广泛的影响](#8 广泛的影响)
  • [9 具有不同提示的模型响应](#9 具有不同提示的模型响应)

摘要

大型语言模型(LLM)在推理任务中的性能在很大程度上取决于提示设计,思想链(CoT)和自洽性是增强这种能力的关键方法。然而,这些方法并没有充分利用LLM生成的答案来指导后续响应。本文提出了一种新的提示方法,称为渐进提示(PHP),通过使用以前生成的答案作为提示,逐步引导用户找到正确的答案,实现用户和LLM之间的自动多次交互。PHP与CoT和自一致性正交,因此可以轻松地与最先进的技术相结合,以进一步提高性能。我们在七个基准上进行了广泛而全面的实验。结果表明,PHP在保持高效的同时显著提高了准确性。例如,使用text-davinci-003,我们观察到与复杂CoT相比,贪婪解码的GSM8K改进了4.2%,自一致性的样本路径减少了46.17%。通过GPT-4和PHP,我们在SVAMP上实现了最先进的性能(89.1%→ 91.9%)、GSM8K(92%→ 95.5%)、AQuA(76.4%→ 79.9%)和数学(50.3%)→ 53.9%)。

1 引言

2 相关工作

3 渐进提示Prompting

4 实验

5 结论

6 实现细节

7 不足与未来工作

8 广泛的影响

9 具有不同提示的模型响应

具有不同提示的模型响应。当呈现提示100时,该模型准确地解决了该问题。相反,如果提供的提示与正确答案偏离太远,则模型可能会被误导。例如,当提示为0时,模型计算出未使用的胡萝卜量为80磅,输出的答案为0。

相关推荐
一 铭35 分钟前
AI领域新趋势:从提示(Prompt)工程到上下文(Context)工程
人工智能·语言模型·大模型·llm·prompt
静心问道9 小时前
self-consistency:自洽性提升语言模型中的链式思维推理能力
人工智能·语言模型·大模型
北京地铁1号线9 小时前
GPT-2论文阅读:Language Models are Unsupervised Multitask Learners
论文阅读·gpt·语言模型
蹦蹦跳跳真可爱58911 小时前
Python----大模型(使用api接口调用大模型)
人工智能·python·microsoft·语言模型
DeepSeek-大模型系统教程13 小时前
深入金融与多模态场景实战:金融文档分块技术与案例汇总
人工智能·ai·语言模型·程序员·大模型·大模型学习·大模型教程
我是小哪吒2.015 小时前
书籍推荐-《对抗机器学习:攻击面、防御机制与人工智能中的学习理论》
人工智能·深度学习·学习·机器学习·ai·语言模型·大模型
东临碣石8217 小时前
【AI论文】数学推理能否提升大型语言模型(LLM)的通用能力?——探究大型语言模型推理能力的可迁移性
人工智能·语言模型·自然语言处理
c76921 小时前
【文献笔记】Automatic Chain of Thought Prompting in Large Language Models
人工智能·笔记·语言模型·论文笔记
DeepSeek-大模型系统教程1 天前
推荐 7 个本周 yyds 的 GitHub 项目。
人工智能·ai·语言模型·大模型·github·ai大模型·大模型学习
静心问道1 天前
STEP-BACK PROMPTING:退一步:通过抽象在大型语言模型中唤起推理能力
人工智能·语言模型·大模型