英伟达GTC大会看点:Blackwell芯片、推理微服务NIM、人形机器人

北京时间3月19日,英伟达创始人兼首席执行官黄仁勋在美国加州圣何塞SAP中心拉开了GTC大会帷幕,这是时隔5年重回线下的会议,现场吸引了11000多名与会者。大会上黄仁勋演讲了长达120分钟的主题分享《见证AI的变革时刻》,并发布了最新技术Blackwell 架构、NIM微服务、Omniverse Cloud API等。

1、最新芯片技术Blackwell

黄仁勋在主题演讲中表示,英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的训练、推理效率。在 FP8 训练方面,Blackwell 的每芯片性能是其前身的 2.5 倍,在FP4推理方面的性能是其前身的 5 倍。它具有第五代 NVLink互连,速度是 Hopper 的两倍,并且可扩展至 576个GPU。

"加速计算已经达到临界点------通用计算已经失去动力,我们需要新的计算方式,来持续降低计算成本。加速计算普遍比通用计算速度更快!" 为了对全球人工智能基础设施进行大规模升级,黄仁勋推出了 NVIDIA Blackwell平台,满足客户在万亿参数大型语言模型上构建和运行实时生成式AI。

据介绍,Blackwell GPU拥有2080亿个晶体管,而H100/H200有800亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI大模型。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

新的芯片架构和技术将极大改善能耗。黄仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,跑90天只要消耗4兆瓦的电力。

据悉,在Blackwell产品正式发布之前,亚马逊、微软、谷歌等企业已经准备使用该产品。英伟达表示,新芯片预计将于今年上市,但目前还未公布相关售价信息。

02. 推理微服务NIM:软件服务全面升级

黄仁勋指出,生成式人工智能已经彻底改变了软件开发的方式,不再是传统意义上的编程。此次英伟达推出了一项全新的推理微服务NIM,该服务是通过一种交付快速推理模型的新方法来加速和优化生成式AI大语言模型的部署,用户可以在这里体验各种AI应用,企业可以在这里创建和部署自定义的AI应用。

黄仁勋介绍了英伟达如何使用NIM创建一个内部聊天机器人,旨在解决构建芯片时遇到的常见问题。"我们需要一个模拟引擎,以数字方式为机器人呈现世界,"他说,这就是 Omniverse。这些"微服务"将允许开发人员使用专有和自定义模型快速创建和部署"副驾驶"或人工智能助手。

此外,企业级数字孪生和沉浸式内容创建中心Omniverse将在Apple Vision Pro上首次亮相。通过英伟达Omniverse的云API和图形交付网络 (GDN),人们现在将可以轻松将3D应用的OpenUSD(交互式通用场景描述)实时串流到Vision Pro混合头显中。

03.人形机器人: 下一波AI浪潮

英伟达发布了人形机器人基础模型"GR00T项目",这是一款基于英伟达Jetson嵌入式系统和Isaac Sim机器人仿真器的机器人模型。它可以理解自然语言,通过观察人类动作来模拟运动、学习走路,还具备了一定的自主导航、物体识别和抓取等能力。迪士尼的机器人也来到大会现场,它用的就是英伟达Jetson芯片。

相关推荐
车载诊断技术5 小时前
电子电气架构 --- 电子电器新技术及发展趋势
网络·架构·汽车·电子电器框架·车载充电器(obc)·电子电器新技术及发展趋势
卷心菜不卷Iris5 小时前
第1章大型互联网公司的基础架构——1.6 RPC服务
网络·网络协议·微服务·rpc·http协议·rpc协议
呱牛do it5 小时前
【系列专栏】银行IT的云原生架构-混合云弹性架构 13
微服务·云原生·金融·架构
yoloGina5 小时前
AI 机器人外呼 —— 开启智能外呼新纪元
人工智能·机器人
视觉语言导航6 小时前
ICML-2024 | 具身智能如何数据自由?RoboGen:基于生成式模拟实现全自动无限数据机器人学习
人工智能·机器人·具身智能
uhakadotcom6 小时前
约束求解领域的最新研究进展
人工智能·面试·架构
拾忆,想起8 小时前
Spring 和 Spring MVC 的关系是什么?
java·spring boot·spring·spring cloud·微服务
文军的烹饪实验室10 小时前
我国有哪些芯片使用的是arm架构处理器
arm开发·架构
微学AI11 小时前
Deepseekv3原理架构中的数学公式,通过高度概括实现快速入门
开发语言·人工智能·python·架构·deepseek
martian66513 小时前
【Java高级篇】——第13篇:深入探讨设计模式与Java实践
java·开发语言·架构