LARGE LANGUAGE MODEL AS AUTONOMOUS DECISION MAKER

本文是LLM系列文章,针对《LARGE LANGUAGE MODEL AS AUTONOMOUS DECISION MAKER》的翻译。

作为自主决策者的大语言模型

  • 摘要
  • [1 引言](#1 引言)
  • [2 前言](#2 前言)
  • [3 任务形式化](#3 任务形式化)
  • [4 方法](#4 方法)
  • [5 实验](#5 实验)
  • [6 相关工作](#6 相关工作)
  • [7 结论](#7 结论)

摘要

尽管大型语言模型(LLM)表现出令人印象深刻的语言理解和上下文学习能力,但在解决现实世界任务时,它们的决策能力仍然严重依赖于特定任务专家知识的指导。为了释放LLM作为自主决策者的潜力,本文提出了一种JUDEC赋予LLM自我判断能力的方法,使LLM能够实现自主判断和决策探索。具体来说,在JUDEC中,基于Elo的自我判断机制被设计为将Elo分数分配给决策步骤,通过两个解决方案之间的成对比较来判断其价值和效用,然后相应地引导决策搜索过程走向最优解决方案。ToolBench数据集的实验结果表明,JUDEC优于基线,在不同任务上的通过率提高了10%以上。它提供更高质量的解决方案并降低成本(ChatGPT API调用),突出了其有效性和效率。

1 引言

2 前言

3 任务形式化

4 方法

5 实验

6 相关工作

7 结论

在这项工作中,我们引入了一种新的方法JUDEC,使大型语言模型(LLM)能够在不同的现实世界任务中作为自主决策者,而不需要特定任务的专家知识。基于Elo的自我判断机制的引入增强了LLM对决策步骤的自我判断,并指导决策探索过程。在ToolBench数据集上进行的大量实验已经证实了JUDEC的有效性,它通过显著提高通过率和产生更高质量的解决方案而优于基线方法。此外,LLM API调用的减少显示了我们方法的效率提高。通过赋予LLM自主决策能力,我们的工作为其在现实世界场景中的更广泛应用铺平了道路,消除了对特定任务知识的依赖。

相关推荐
yusaisai大鱼1 小时前
TensorFlow如何调用GPU?
人工智能·tensorflow
珠海新立电子科技有限公司4 小时前
FPC柔性线路板与智能生活的融合
人工智能·生活·制造
IT古董4 小时前
【机器学习】机器学习中用到的高等数学知识-8. 图论 (Graph Theory)
人工智能·机器学习·图论
曼城周杰伦4 小时前
自然语言处理:第六十三章 阿里Qwen2 & 2.5系列
人工智能·阿里云·语言模型·自然语言处理·chatgpt·nlp·gpt-3
余炜yw5 小时前
【LSTM实战】跨越千年,赋诗成文:用LSTM重现唐诗的韵律与情感
人工智能·rnn·深度学习
莫叫石榴姐5 小时前
数据科学与SQL:组距分组分析 | 区间分布问题
大数据·人工智能·sql·深度学习·算法·机器学习·数据挖掘
如若1235 小时前
利用 `OpenCV` 和 `Matplotlib` 库进行图像读取、颜色空间转换、掩膜创建、颜色替换
人工智能·opencv·matplotlib
YRr YRr6 小时前
深度学习:神经网络中的损失函数的使用
人工智能·深度学习·神经网络
ChaseDreamRunner6 小时前
迁移学习理论与应用
人工智能·机器学习·迁移学习
Guofu_Liao6 小时前
大语言模型---梯度的简单介绍;梯度的定义;梯度计算的方法
人工智能·语言模型·矩阵·llama