Nvidia发布Llama3-ChatQA-1.5: 提升对话问答和表格推理能力,平均性能超越GPT-4

前言

近日,Nvidia推出了一款名为Llama3-ChatQA-1.5的对话问答模型。该模型在对话式问答和检索增强型生成等能力方面表现出色,在综合评测指标上甚至超越了当前业界顶尖的GPT-4模型。

技术特点

Llama3-ChatQA-1.5是基于Llama-3基础模型训练而成的。相比之前的ChatQA 1.0版本,其训练方法和数据集都进行了优化,尤其增强了对表格数据和算术计算的理解能力。该模型有两个不同规模的版本:Llama3-ChatQA-1.5-8B和Llama3-ChatQA-1.5-70B。

Llama3-ChatQA-1.5的创新点主要体现在以下几个方面:

  • 融合会话式问答和表格推理能力:该模型不仅擅长处理开放域的对话式问答,在理解和推理包含表格数据的复杂问题上也有出色表现。

  • 依靠高质量数据训练,无需借助ChatGPT合成数据:Llama3-ChatQA-1.5的训练数据主要来自人工标注的会话式问答数据集以及其他高质量QA数据,并未使用ChatGPT等模型生成的合成数据。

  • 检索增强能力强劲:通过对单轮检索模型的精细调优,Llama3-ChatQA-1.5能够高效利用检索结果,在需要检索的场景下也能保持出色的性能。

性能表现

采用ChatRAG Bench基准评测套件,对Llama3-ChatQA-1.5系列模型进行了全面测试,结果如下:

从结果可以看到,Llama3-ChatQA-1.5-70B在10个数据集上的平均得分达到58.25,超越了 GPT-4 的53.90分,尤其在包含表格数据的数据集上表现更为出色。即使参数量较小的Llama3-ChatQA-1.5-8B,在整体指标上也超过了其他对比模型。

应用场景

Llama3-ChatQA-1.5的小尺寸和高性能使其非常适合部署在资源受限的环境中,如边缘设备。同时,该模型融合了会话理解、表格推理和检索增强等关键能力,可为未来的对话式AI应用提供强有力的支撑。

总结

Nvidia发布的Llama3-ChatQA-1.5是一款融合了对话问答和表格推理能力的高性能模型,在多个评测基准上的平均表现超越了当前最强的GPT-4模型。该模型的创新点包括依靠高质量数据训练、检索增强能力强劲等,展现了Nvidia在对话式问答领域的技术实力。作为一款小尺寸高性能的模型,Llama3-ChatQA-1.5必将成为未来对话式AI应用的重要支撑。

模型下载

Huggingface模型下载

https://huggingface.co/nvidia/Llama3-ChatQA-1.5-8B

AI快站模型免费加速下载

https://aifasthub.com/models/*nvidia*

相关推荐
Dawson Zhu20 分钟前
【模型量化⑦】W4A8与GPTQ-Int4:极限压缩与MLC-LLM部署实战
人工智能·语言模型·架构·aigc·agi
千寻技术帮36 分钟前
50055_基于AI的互帮互助小程序(源码+文档+数据库脚本+部署教程)
数据库·人工智能·小程序·毕业设计·springboot·课程设计
天树星智源1 小时前
KV 剪枝的同一个误差,模型确定时只改 1.4% 的 token,不确定时改 65%:接上不确定性,AIME25 端到端快 1.27 倍
人工智能·大模型
AI英德西牛仔1 小时前
PC 用户的效率革命:腾讯元宝导出 Word 指令与“AI 导出鸭”的底层逻辑
人工智能·word·excel·deepseek·ai导出鸭
Flynn Liang2 小时前
多智能体协同不再复杂:Redis Stream 消费者组、幂等与故障恢复
数据库·人工智能·redis·缓存·ai agent·智能体
分布式存储与RustFS2 小时前
Dify 容器一重建知识库就空了:把上传文件和密钥一起存进 RustFS
运维·云原生·开源·对象存储·分布式存储·s3·性能基准
VIP_CQCRE10 小时前
GPT Image 2.6 商品图换背景后悬浮?接触阴影、透明区域与反射验收
图像处理·人工智能·ai·电商
泯泷11 小时前
别再傻傻地喂文件了,大厂都在偷偷给AI建这种“专属图书馆”
人工智能
oak隔壁找我12 小时前
一款运行在 DSH(DeepSeek Harness)中的类 Postman HTTP 接口调试插件
人工智能·程序员
高洁0112 小时前
数字孪生与计算机视觉:让机器看懂现场
人工智能·python·机器学习·transformer·迁移学习