北京时间3月19日,英伟达创始人兼首席执行官黄仁勋在美国加州圣何塞SAP中心拉开了GTC大会帷幕,这是时隔5年重回线下的会议,现场吸引了11000多名与会者。大会上黄仁勋演讲了长达120分钟的主题分享《见证AI的变革时刻》,并发布了最新技术Blackwell 架构、NIM微服务、Omniverse Cloud API等。
1、最新芯片技术Blackwell
黄仁勋在主题演讲中表示,英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的训练、推理效率。在 FP8 训练方面,Blackwell 的每芯片性能是其前身的 2.5 倍,在FP4推理方面的性能是其前身的 5 倍。它具有第五代 NVLink互连,速度是 Hopper 的两倍,并且可扩展至 576个GPU。
"加速计算已经达到临界点------通用计算已经失去动力,我们需要新的计算方式,来持续降低计算成本。加速计算普遍比通用计算速度更快!" 为了对全球人工智能基础设施进行大规模升级,黄仁勋推出了 NVIDIA Blackwell平台,满足客户在万亿参数大型语言模型上构建和运行实时生成式AI。
据介绍,Blackwell GPU拥有2080亿个晶体管,而H100/H200有800亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI大模型。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。
新的芯片架构和技术将极大改善能耗。黄仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,跑90天只要消耗4兆瓦的电力。
据悉,在Blackwell产品正式发布之前,亚马逊、微软、谷歌等企业已经准备使用该产品。英伟达表示,新芯片预计将于今年上市,但目前还未公布相关售价信息。
02. 推理微服务NIM:软件服务全面升级
黄仁勋指出,生成式人工智能已经彻底改变了软件开发的方式,不再是传统意义上的编程。此次英伟达推出了一项全新的推理微服务NIM,该服务是通过一种交付快速推理模型的新方法来加速和优化生成式AI大语言模型的部署,用户可以在这里体验各种AI应用,企业可以在这里创建和部署自定义的AI应用。
黄仁勋介绍了英伟达如何使用NIM创建一个内部聊天机器人,旨在解决构建芯片时遇到的常见问题。"我们需要一个模拟引擎,以数字方式为机器人呈现世界,"他说,这就是 Omniverse。这些"微服务"将允许开发人员使用专有和自定义模型快速创建和部署"副驾驶"或人工智能助手。
此外,企业级数字孪生和沉浸式内容创建中心Omniverse将在Apple Vision Pro上首次亮相。通过英伟达Omniverse的云API和图形交付网络 (GDN),人们现在将可以轻松将3D应用的OpenUSD(交互式通用场景描述)实时串流到Vision Pro混合头显中。
03.人形机器人: 下一波AI浪潮
英伟达发布了人形机器人基础模型"GR00T项目",这是一款基于英伟达Jetson嵌入式系统和Isaac Sim机器人仿真器的机器人模型。它可以理解自然语言,通过观察人类动作来模拟运动、学习走路,还具备了一定的自主导航、物体识别和抓取等能力。迪士尼的机器人也来到大会现场,它用的就是英伟达Jetson芯片。