英伟达GTC大会看点:Blackwell芯片、推理微服务NIM、人形机器人

北京时间3月19日,英伟达创始人兼首席执行官黄仁勋在美国加州圣何塞SAP中心拉开了GTC大会帷幕,这是时隔5年重回线下的会议,现场吸引了11000多名与会者。大会上黄仁勋演讲了长达120分钟的主题分享《见证AI的变革时刻》,并发布了最新技术Blackwell 架构、NIM微服务、Omniverse Cloud API等。

1、最新芯片技术Blackwell

黄仁勋在主题演讲中表示,英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的训练、推理效率。在 FP8 训练方面,Blackwell 的每芯片性能是其前身的 2.5 倍,在FP4推理方面的性能是其前身的 5 倍。它具有第五代 NVLink互连,速度是 Hopper 的两倍,并且可扩展至 576个GPU。

"加速计算已经达到临界点------通用计算已经失去动力,我们需要新的计算方式,来持续降低计算成本。加速计算普遍比通用计算速度更快!" 为了对全球人工智能基础设施进行大规模升级,黄仁勋推出了 NVIDIA Blackwell平台,满足客户在万亿参数大型语言模型上构建和运行实时生成式AI。

据介绍,Blackwell GPU拥有2080亿个晶体管,而H100/H200有800亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI大模型。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

新的芯片架构和技术将极大改善能耗。黄仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,跑90天只要消耗4兆瓦的电力。

据悉,在Blackwell产品正式发布之前,亚马逊、微软、谷歌等企业已经准备使用该产品。英伟达表示,新芯片预计将于今年上市,但目前还未公布相关售价信息。

02. 推理微服务NIM:软件服务全面升级

黄仁勋指出,生成式人工智能已经彻底改变了软件开发的方式,不再是传统意义上的编程。此次英伟达推出了一项全新的推理微服务NIM,该服务是通过一种交付快速推理模型的新方法来加速和优化生成式AI大语言模型的部署,用户可以在这里体验各种AI应用,企业可以在这里创建和部署自定义的AI应用。

黄仁勋介绍了英伟达如何使用NIM创建一个内部聊天机器人,旨在解决构建芯片时遇到的常见问题。"我们需要一个模拟引擎,以数字方式为机器人呈现世界,"他说,这就是 Omniverse。这些"微服务"将允许开发人员使用专有和自定义模型快速创建和部署"副驾驶"或人工智能助手。

此外,企业级数字孪生和沉浸式内容创建中心Omniverse将在Apple Vision Pro上首次亮相。通过英伟达Omniverse的云API和图形交付网络 (GDN),人们现在将可以轻松将3D应用的OpenUSD(交互式通用场景描述)实时串流到Vision Pro混合头显中。

03.人形机器人: 下一波AI浪潮

英伟达发布了人形机器人基础模型"GR00T项目",这是一款基于英伟达Jetson嵌入式系统和Isaac Sim机器人仿真器的机器人模型。它可以理解自然语言,通过观察人类动作来模拟运动、学习走路,还具备了一定的自主导航、物体识别和抓取等能力。迪士尼的机器人也来到大会现场,它用的就是英伟达Jetson芯片。

相关推荐
高升说14 小时前
机器人上岗之后:视觉系统从 demo 到产线的四道坎
机器人·机器视觉·工业自动化
别动我齐刘海17 小时前
ROS2 Jazzy + C++ 实战路线——基础学习2
c++·人工智能·vscode·python·学习·机器学习·机器人
闲云野鹤在人间17 小时前
docker 入门 | 第7章 容器监控 和 第8章 容器日志 详解
运维·docker·容器·架构·云计算
闲云野鹤在人间17 小时前
docker 入门 | 第5章 网络详解
网络·docker·架构·华为云·php
怕浪猫18 小时前
从 Windows 换到 Mac 三个月,我真香了
算法·面试·架构
星云API技术支持19 小时前
企业微信二次开发:如何把企业微信消息实时同步到自有管理后台
机器人·yapi·企业微信
商业看点解说19 小时前
Amazon Bedrock AgentCore 能否用于搭建与运维多智能体应用?
架构
星云API技术支持19 小时前
企业微信二次开发实战:群聊消息触发接口后如何自动执行指定任务
机器人·yapi·企业微信
白远山19 小时前
上海24小时自助健身房系统软件开发实战指南:从需求到部署
java·架构·uni-app·需求分析
许彰午20 小时前
51-BpmnDesigner集成
java·低代码·架构