CoT进阶:Self Consistency, Least-To-Most

CoT进阶

    • [一:Self Consistency](#一:Self Consistency)
      • [1.1 方法简介](#1.1 方法简介)
      • [1.2 实验](#1.2 实验)
      • [1.3 结果](#1.3 结果)
    • 二:Least-to-most
      • [2.1 方法简介](#2.1 方法简介)
      • [2.2 示例](#2.2 示例)
      • [2.3 结果](#2.3 结果)

一:Self Consistency

题目: SELF-CONSISTENCY IMPROVES CHAIN OF THOUGHT REASONING IN LANGUAGE MODELS

机构:Google Brain, ICLR 2023

论文: https://arxiv.org/pdf/2203.11171.pdf

任务: 对于复杂问题而言,往往可以从多条推理路径得到最终的答案,因此将原来的CoT贪心解码进行优化,提出一种Self Consistency的解码算法

特点: sample-and-marginalize,投票,能够避免CoT的解码的局部最优以及输出重复,可以视作一种"self-ensemble",无需训练/标注/微调,很容易与现存的采样算法,比如 temperature sampling, top-k samplingnucleus sampling即插即用。

前置相关工作:CoT

1.1 方法简介

  1. 利用CoT prompting大模型
  2. 将CoT中的贪心解码替换为采样生成一组推理路径
  3. 答案一致性投票

关于NLG的各种采样算法:Greedy Search (Maximization),Beam Search,Temperature Sampling,Top-K Sampling,Top-P Sampling (Nucleus sampling),可以参见:

  1. https://www.cnblogs.com/miners/p/14950681.html
  2. THE CURIOUS CASE OF NEURAL TEXT DeGENERATION

1.2 实验

  • Arithmetic Reasoning
  • Commonsense and Symbolic Reasoning
  • SELF-CONSISTENCY HELPS WHEN CHAIN-OF-THOUGHT HURTS PERFORMANCE
  • Comparison to Sample-and-Rank
  • Comparison to Beam Search
  • Comparison to Ensemble-based Approaches
  • Self-Consistency is Robust to Sampling Strategies and Scaling
  • Self-Consistency Improves Robustness to Imperfect Prompts
  • Self-Consistency Works for Non-Natural-Language Reasoning Paths and Zero-shot CoT

1.3 结果

二:Least-to-most

题目: LEAST-TO-MOST PROMPTING ENABLES COMPLEX REASONING IN LARGE LANGUAGE MODELS

机构:Google Brain, ICLR 2023

论文: https://arxiv.org/pdf/2205.10625.pdf

任务: 为了克服CoT在easy-to-hard示例学习中的泛化性

方法:将复杂的问题分解为一系列的更简单的子问题,然后一个接一个解决,每一个待解决的子问题,都会被上一个已经解决好的子问题的答案促进

特点: 方法中的两个阶段都是通过几次提示(few-shot prompting)来实现的,因此在任何阶段都不需要训练或微调

前置相关工作:CoT,self consistency

2.1 方法简介

为了解决easy-to-hard的泛化性问题,提出Least-to-most prompting方法,它包含两个阶段:

  1. 将一个复杂的问题,分解为一序列简单的子问题
  2. 依次解决这些子问题,每一个待解决的子问题,都需要历史已经解决的子问题的答案来促进

2.2 示例

该论文在SYMBOLIC MANIPULATION,COMPOSITIONAL GENERALIZATION,MATH REASONING进行了实验,这儿展示MATH REASONING的示例以及结果
Least-to-most 样例:

CoT 样例:

2.3 结果

相关推荐
掘金一周1 分钟前
金石焕新程 >> 瓜分万元现金大奖征文活动即将回归 | 掘金一周 4.3
前端·人工智能·后端
白雪讲堂18 分钟前
AI搜索品牌曝光资料包(精准适配文心一言/Kimi/DeepSeek等场景)
大数据·人工智能·搜索引擎·ai·文心一言·deepseek
斯汤雷23 分钟前
Matlab绘图案例,设置图片大小,坐标轴比例为黄金比
数据库·人工智能·算法·matlab·信息可视化
ejinxian30 分钟前
Spring AI Alibaba 快速开发生成式 Java AI 应用
java·人工智能·spring
程序员Linc34 分钟前
边缘检测技术现状初探2:多尺度与形态学方法
计算机视觉·边缘检测·形态学
葡萄成熟时_34 分钟前
【第十三届“泰迪杯”数据挖掘挑战赛】【2025泰迪杯】【代码篇】A题解题全流程(持续更新)
人工智能·数据挖掘
机器之心1 小时前
一篇论文,看见百度广告推荐系统在大模型时代的革新
人工智能
机器之心1 小时前
视觉SSL终于追上了CLIP!Yann LeCun、谢赛宁等新作,逆转VQA任务固有认知
人工智能