小模型驱动大智能:NVIDIA 新研究实现 2.5 倍效率提升,成本直降 70%

小模型驱动大智能:NVIDIA 新研究实现 2.5 倍效率提升,成本直降 70%

论文标题:ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration

作者团队:英伟达、香港大学

发布时间:2025 年 11 月 27 日

👉 一键直达论文

👉Lab4AI 大模型实验室论文阅读

⭐ 论文简介

大语言模型在解决深度复杂问题时面临计算成本高、推理能力不足的挑战;现有工具代理多依赖单一强大模型,缺乏对"工具编排"的系统性优化,导致效率与成本难以平衡。

这篇论文解决的是,训练一个小型语言模型(Orchestrator) 作为编排器,动态协调多种工具(基础工具、专业 LLMs、通用 LLMs),通过强化学习优化任务完成效果。

⭐ 核心创新

论文核心是训练一个小型语言模型作为"编排器",通过强化学习让小模型学会 "何时调用、调用什么、如何组合" 工具,实现 "以小控大、降本增效"。

该方法将多工具任务建模为马尔可夫决策过程,编排器通过"多轮滚动"交替执行"推理"和"工具调用",逐步完成任务。

奖励设计包含三重目标:结果正确性(任务是否解决)、效率(成本与延迟)、用户偏好(工具选择倾向),引导模型平衡性能与成本,适配用户需求。

为支持训练,论文还提出了 ToolScale 数据集,通过模拟工具环境与生成多样化任务,解决端到端 RL 训练的数据稀缺问题。

⭐ 论文的贡献

  • 提出"编排范式",用小型模型协调工具实现"性能 - 成本"最优;
  • 发布 ToolScale 数据集,推动工具代理研究;
  • 证明小型编排模型在复杂任务上可超越大模型,为低成本、可扩展的 AI 系统提供新思路。
相关推荐
郝学胜-神的一滴17 分钟前
Effective Python 条款35:用类封装替代生成器异常注入
开发语言·人工智能·python·金融·pandas·scikit-learn·matplotlib
火山引擎开发者社区25 分钟前
豆包工作,3 个月,800 万,20 亿
人工智能
Chuck.li34 分钟前
AI 长篇创作工具选型:工作流对照与自测清单
人工智能·大模型·ai写作·网文作者·ai网文·豆包写作
aleimu1 小时前
Windows 11 右键打开 Cmder 2.0:从找不到菜单到默认使用 Cmder
前端·人工智能·后端
SwanArc技术笔记1 小时前
读技术文档,先用哪个 AI?模型指南筛选与 GPT-6.2 Astra 实操
人工智能
深海鱼在掘金1 小时前
深入浅出RAG——第21章:回顾与展望
人工智能
羲云网络1 小时前
GPT Image 2.6 GIF 交付排障:上线后为什么只剩第一帧?
图像处理·人工智能·前端开发·gif
安爹前沿AI1 小时前
Seedance 有个文档里没写的参数:开了码率涨 3.9 倍,费用一分没多
人工智能
深海鱼在掘金1 小时前
深入浅出RAG——第20章:端到端实战:企业级知识库问答系统
人工智能
黑十1 小时前
FDE 怎么快速搭一个可演示页面?最小前端方案
java·大数据·前端·数据库·人工智能