Tags: LLM
Authors: Ales Kubicek, Hubert Niewiadomski, Joanna Gajda, Lukas Gianinazzi, Maciej Besta, Michał Podstawski, Nils Blach, Piotr Nyczyk, Robert Gerstenberger, Tomasz Lehmann, Torsten Hoefler
Created Date: January 11, 2024 9:00 PM
Finished Date: 2024/01/18
Status: Finished
organization: Cledar, ETH Zurich, Warsaw University of Technology
publisher : arXiv
year: 2023
code: https://github.com/spcl/graph-of-thoughts
paper: https://arxiv.org/abs/2308.09687
介绍
本文提出了思维图Graph of Thoughts (GoT)，是一个用于提升大语言模型提示能力的框架。与之前工作思维链（CoT）、思维树（ToT）类似，但思维图有将大语言模型产生的信息建模为图结构的能力。
文中的主要贡献如下：
- 提出了一种新的方法来增强大语言模型通过网络进行推理的能力。
- 设计了用于实现GoT的模块化框架。
- 展示了几个GoT的使用案例（排序、摘要关键词计数、集合操作、文档合并），并详细说明如何使用基于图的范式来实现它们。
- 评估GoT并展示其相对于现有技术的优势。
- 我们提出了一种评估提示策略的新度量标准，即思维体积。
组件
Prompter
将提示送入大语言模型。这个模块主要负责执行具体操作。
Parser
从大语言模型思想中抽取信息。应该就是把所需的信息从大语言模型的输出中提取出来。
Scoring & Validation
评估大语言模型的输出，并打分。可以由大语言模型来做，也可以由人来做。
Controller
根据GRS结构实施特定的策略来选择输出。
框架图
样例
