6月5日, 智东西传来消息, 有一个研究团队, 他们来自谷歌、普林斯顿大学以及斯坦福大学, 该团队提出了一个有着特定名称的框架, 这个名称是LATM(LLMs As Tool), 此框架包含两个LLM(大语言模型), 在这些大语言模型里, 像GPT - 4这般高性能的LLM能够变成独立的工具制造者。
人类因制造工具去应对新挑战从而获得进化, 如今人们使LLM借助制造工具变得更强, 不但提升了LLM灵活解决问题的能力, 也能为用户给出最高效且实惠的解决方案。
一、让强大模型自制工具,让轻量级模型使用工具解决问题
在工具制造环节, LATM能够依据具体使用场景, 对LLM的使用予以分配, 在工具使用环节, 同样如此:
1、以GPT-4这样性能强大、价格昂贵的作为工具制造者, 从任务实例里创建一个可复用的工具, 该工具以函数形式呈现。
2、让轻量级且较为价廉的模型, 去充当工具使用者, 像GPT - 3.5 Turbo这般, 去执行相对简易的使用任务, 也就是运用已验证的工具, 以解决请求里的相似实例。
这样的模式使得轻量级的模型具备了和强大模型相等的性能, 并且与此同时还维持着更高的成本效率, 它能够被应用于各种各样的重复性任务, 像是针对Web文档展开解析以及分析, 还有寻找游戏攻略。
工具制造与使用环节示意图
针对工具制作而言, 它被划分成了下面这些步骤, 分别是工具提出来, 进行验证, 以及完成封装, 因为每一类任务仅仅只需要执行一回, 以至于所制造出来的工具能够被一再用来实现该任务中所有的实例, 是这样的缘故, 所以跟独立运用强大的模型相比较的话, LATM在效率以及成本效益方面都有了明显的提升。
除此之外, 函数工具属于一种更为通用的思维链形式, 它可以增强LLM的整体实用性以及灵活性。
他们另外引入了第三个模块, 这是一个轻量级的语言模型从而去充当调度程序, 该模型能够判定是不是能够借助现有工具去解决传入的问题, 也能够判定是否有必要创建新工具。
工具调度、制造、使用环节示意图
二、LATM能够解决复杂问题,最终效果堪比强大模型
该团队将具代表性的工具制造者确定为GPT - 4, 又把具代表性的工具使用者选为GPT - 3.5 Turbo, 在六个各异领域的数据集上展开对LATM可行性的评估, 这六个领域涵盖逻辑演绎, 跟踪洗牌对象, Dyck语言, 词排序, 中文剩余定理以及会议调度, 最终证实了:。
1、当GPT-4身为工具制造者之际, 此模型常常设计出恰当的问题解决工具。
2、某些轻量级模型, 比如GPT - 3.5 Turbo, 能够达成和GPT - 4一样的性能表现, 并且平均成本更低, 进而展示出LATM在提升轻量级模型性能这件事上的有效性。
3、调度程序能够有效地辨认出已有的工具, 并且依据需求去请求新工具的构建。
但在该团队的评估过程中,他们还发现:
1、面对极其困难的任务, 去制作解决此任务的工具, 不但需要具备高性能条件的强大模型, 而且还需要拥有高精度标准的数据集。
2、在面对较为简单的任务时, 工具的制造者能够是一个轻量级的语言模型。
结语:整合LLM能力,推动AI系统进化
LATM以创新方式进行两类LLM整合, 这一整合过程被分配于两个关键阶段之中, 如此一来, LLM便能够创建且利用自身工具去完成种类繁多的各种任务, 一方面它能够借助先进LLM的能力, 另一方面又能够大幅度降低计算成本, 通过如此做法进而推动了AI系统的进化进程, 于系统进化同时则释放出数量巨大的诸多机会。
而针对研究里数据集存在的缺乏情况所展开的探究, 或许会刺激研究领域去创建具备高精度的数据集, 进而能对培养下一代人工智能系统产生帮衬作用。