AI大模型新进化点:让GPT-4造工具给GPT-3.5用,谷歌DeepMind团队研究

6月5日, 智东西传来消息, 有一个研究团队, 他们来自谷歌、普林斯顿大学以及斯坦福大学, 该团队提出了一个有着特定名称的框架, 这个名称是LATM(LLMs As Tool), 此框架包含两个LLM(大语言模型), 在这些大语言模型里, 像GPT - 4这般高性能的LLM能够变成独立的工具制造者。

人类因制造工具去应对新挑战从而获得进化, 如今人们使LLM借助制造工具变得更强, 不但提升了LLM灵活解决问题的能力, 也能为用户给出最高效且实惠的解决方案。

一、让强大模型自制工具,让轻量级模型使用工具解决问题

在工具制造环节, LATM能够依据具体使用场景, 对LLM的使用予以分配, 在工具使用环节, 同样如此:

1、以GPT-4这样性能强大、价格昂贵的作为工具制造者, 从任务实例里创建一个可复用的工具, 该工具以函数形式呈现。

2、让轻量级且较为价廉的模型, 去充当工具使用者, 像GPT - 3.5 Turbo这般, 去执行相对简易的使用任务, 也就是运用已验证的工具, 以解决请求里的相似实例。

这样的模式使得轻量级的模型具备了和强大模型相等的性能, 并且与此同时还维持着更高的成本效率, 它能够被应用于各种各样的重复性任务, 像是针对Web文档展开解析以及分析, 还有寻找游戏攻略。

工具制造与使用环节示意图

针对工具制作而言, 它被划分成了下面这些步骤, 分别是工具提出来, 进行验证, 以及完成封装, 因为每一类任务仅仅只需要执行一回, 以至于所制造出来的工具能够被一再用来实现该任务中所有的实例, 是这样的缘故, 所以跟独立运用强大的模型相比较的话, LATM在效率以及成本效益方面都有了明显的提升。

除此之外, 函数工具属于一种更为通用的思维链形式, 它可以增强LLM的整体实用性以及灵活性。

他们另外引入了第三个模块, 这是一个轻量级的语言模型从而去充当调度程序, 该模型能够判定是不是能够借助现有工具去解决传入的问题, 也能够判定是否有必要创建新工具。

工具调度、制造、使用环节示意图

二、LATM能够解决复杂问题,最终效果堪比强大模型

该团队将具代表性的工具制造者确定为GPT - 4, 又把具代表性的工具使用者选为GPT - 3.5 Turbo, 在六个各异领域的数据集上展开对LATM可行性的评估, 这六个领域涵盖逻辑演绎, 跟踪洗牌对象, Dyck语言, 词排序, 中文剩余定理以及会议调度, 最终证实了:。

1、当GPT-4身为工具制造者之际, 此模型常常设计出恰当的问题解决工具。

2、某些轻量级模型, 比如GPT - 3.5 Turbo, 能够达成和GPT - 4一样的性能表现, 并且平均成本更低, 进而展示出LATM在提升轻量级模型性能这件事上的有效性。

3、调度程序能够有效地辨认出已有的工具, 并且依据需求去请求新工具的构建。

但在该团队的评估过程中,他们还发现:

1、面对极其困难的任务, 去制作解决此任务的工具, 不但需要具备高性能条件的强大模型, 而且还需要拥有高精度标准的数据集。

2、在面对较为简单的任务时, 工具的制造者能够是一个轻量级的语言模型。

结语:整合LLM能力,推动AI系统进化

LATM以创新方式进行两类LLM整合, 这一整合过程被分配于两个关键阶段之中, 如此一来, LLM便能够创建且利用自身工具去完成种类繁多的各种任务, 一方面它能够借助先进LLM的能力, 另一方面又能够大幅度降低计算成本, 通过如此做法进而推动了AI系统的进化进程, 于系统进化同时则释放出数量巨大的诸多机会。

而针对研究里数据集存在的缺乏情况所展开的探究, 或许会刺激研究领域去创建具备高精度的数据集, 进而能对培养下一代人工智能系统产生帮衬作用。

相关推荐
四六的六26 分钟前
一次改回去越界的沙箱复盘:配置恢复了,token 还活着,检测器漏了最关键的那条
人工智能·openai·agent·个人开发·ai编程·ai大模型·ai产品
小蒋观天下5 天前
厂区人员徘徊游荡判别——基于时序轨迹速度的逗留行为分级算法落地
大数据·人工智能·深度学习·算法·机器学习·ai大模型
小蒋观天下7 天前
【安防AI工程实战二】AI摄像头帧率抖动根治:ISP曝光时序与AI推理时序冲突深度定位
人工智能·深度学习·算法·安全·机器学习·ai大模型
for_ever_love__8 天前
LangChain MultiVectorRetriever:一个文档存多个向量
人工智能·python·自然语言处理·langchain·ai大模型·多向量·摘要检索
UBIX泛联10 天前
MLPerf 训练 Checkpoint 评测|泛联 UbiPower 18000,大参数模型读写带宽双登顶
ai大模型·mlperf storage·checkpoint 评测
小蒋观天下11 天前
专项方案:大场景港口AI安防、多干扰环境下的算法调优与落地实操
人工智能·深度学习·算法·安全·机器学习·计算机视觉·ai大模型
做个文艺程序员11 天前
MinIO第07篇:基于MinIO + Spring AI + pgvector构建RAG知识库(Java全栈实战)
minio·向量数据库·ai大模型·rag·springai·pgvector
四六的六11 天前
GPT-6 会自己画界面了:从写页面到定规则,前端在 Intelligent UI 时代的新活法
人工智能·个人开发·ai编程·ai大模型·组件库·ai产品·ui界面
小蒋观天下13 天前
端侧大模型在安防摄像头部署实操(上)|行业痛点、架构选型、落地思路解析
大数据·人工智能·安全·计算机视觉·ai大模型
n1121213 天前
大模型 API 报 429 和超时:限流、重试与降级该怎么写
ai大模型·大模型api