Nvidia发布Llama3-ChatQA-1.5: 提升对话问答和表格推理能力,平均性能超越GPT-4

前言

近日,Nvidia推出了一款名为Llama3-ChatQA-1.5的对话问答模型。该模型在对话式问答和检索增强型生成等能力方面表现出色,在综合评测指标上甚至超越了当前业界顶尖的GPT-4模型。

技术特点

Llama3-ChatQA-1.5是基于Llama-3基础模型训练而成的。相比之前的ChatQA 1.0版本,其训练方法和数据集都进行了优化,尤其增强了对表格数据和算术计算的理解能力。该模型有两个不同规模的版本:Llama3-ChatQA-1.5-8B和Llama3-ChatQA-1.5-70B。

Llama3-ChatQA-1.5的创新点主要体现在以下几个方面:

  • 融合会话式问答和表格推理能力:该模型不仅擅长处理开放域的对话式问答,在理解和推理包含表格数据的复杂问题上也有出色表现。

  • 依靠高质量数据训练,无需借助ChatGPT合成数据:Llama3-ChatQA-1.5的训练数据主要来自人工标注的会话式问答数据集以及其他高质量QA数据,并未使用ChatGPT等模型生成的合成数据。

  • 检索增强能力强劲:通过对单轮检索模型的精细调优,Llama3-ChatQA-1.5能够高效利用检索结果,在需要检索的场景下也能保持出色的性能。

性能表现

采用ChatRAG Bench基准评测套件,对Llama3-ChatQA-1.5系列模型进行了全面测试,结果如下:

从结果可以看到,Llama3-ChatQA-1.5-70B在10个数据集上的平均得分达到58.25,超越了 GPT-4 的53.90分,尤其在包含表格数据的数据集上表现更为出色。即使参数量较小的Llama3-ChatQA-1.5-8B,在整体指标上也超过了其他对比模型。

应用场景

Llama3-ChatQA-1.5的小尺寸和高性能使其非常适合部署在资源受限的环境中,如边缘设备。同时,该模型融合了会话理解、表格推理和检索增强等关键能力,可为未来的对话式AI应用提供强有力的支撑。

总结

Nvidia发布的Llama3-ChatQA-1.5是一款融合了对话问答和表格推理能力的高性能模型,在多个评测基准上的平均表现超越了当前最强的GPT-4模型。该模型的创新点包括依靠高质量数据训练、检索增强能力强劲等,展现了Nvidia在对话式问答领域的技术实力。作为一款小尺寸高性能的模型,Llama3-ChatQA-1.5必将成为未来对话式AI应用的重要支撑。

模型下载

Huggingface模型下载

https://huggingface.co/nvidia/Llama3-ChatQA-1.5-8B

AI快站模型免费加速下载

https://aifasthub.com/models/*nvidia*

相关推荐
喵~来学编程啦7 分钟前
【论文精读】LPT: Long-tailed prompt tuning for image classification
人工智能·深度学习·机器学习·计算机视觉·论文笔记
深圳市青牛科技实业有限公司20 分钟前
【青牛科技】应用方案|D2587A高压大电流DC-DC
人工智能·科技·单片机·嵌入式硬件·机器人·安防监控
水豚AI课代表40 分钟前
分析报告、调研报告、工作方案等的提示词
大数据·人工智能·学习·chatgpt·aigc
几两春秋梦_41 分钟前
符号回归概念
人工智能·数据挖掘·回归
用户691581141652 小时前
Ascend Extension for PyTorch的源码解析
人工智能
用户691581141652 小时前
Ascend C的编程模型
人工智能
成富2 小时前
文本转SQL(Text-to-SQL),场景介绍与 Spring AI 实现
数据库·人工智能·sql·spring·oracle
非著名程序员3 小时前
腾讯为什么支持开源?
开源
CSDN云计算3 小时前
如何以开源加速AI企业落地,红帽带来新解法
人工智能·开源·openshift·红帽·instructlab
艾派森3 小时前
大数据分析案例-基于随机森林算法的智能手机价格预测模型
人工智能·python·随机森林·机器学习·数据挖掘