借助 NVIDIA TAO 为数万亿台设备开发和优化视觉 AI 模型

这篇文章最初发表在 NVIDIA 技术博客上。

全球的开发者正在利用 NVIDIA TAO 工具套件 构建 AI 驱动的视觉感知和计算机视觉应用程序。现在,得益于该平台的显著增强和强大的生态系统支持,这一过程变得比以往更快、更简单。

NVIDIA TAO 工具套件 支持超过 10 种计算机视觉和视觉 AI 模型,包括图像分类、物体检测、三种类型的分割、光学字符识别 (OCR)、动作识别、关键点估计、身体姿态估计、嵌入模型、连体网络等。

TAO 工具套件的入门速度比以往更快,支持超过 NVIDIA NGC 上的 40 个预训练模型。利用 TAO 的方法可以随着用于调整各行各业模型的工作流而不断扩展。如需了解详情,请参阅 借助 NVIDIA TAO 和视觉 AI 模型变革工业缺陷检测自定义 AI 模型:使用 NVIDIA TAO 训练角色检测和识别模型

大规模采用

TAO 的下载量已超过 10 万次,而 TAO 预训练模型的下载量接近 100 万次。TAO 是开源的。此外,解决方案提供商可以访问 TAO,将其更自定义地集成到他们的服务中,并以更细致的粒度探索平台的内部运作。

领先的 MLOps 和云服务正在利用 TAO 来改进其服务。与 MLOps 平台集成,例如 Weights & BiasesClearML,有助于简化机器学习 (ML) 工作流程,并为模型训练实现更好的实验跟踪。TAO 还可以与各种云 ML 和 Kubernetes 服务配合使用,例如 Azure ML、GCP Vertex AI、Azure AKS、AWS EKS 和 GCP GKE。

各大企业也在将 TAO 构建到其行业特定的 AI 开发工作流中,包括 PepsiCo 在消费者供应链中、Pegatron、Siemens 等在制造行业中、以及 ExxonMobil 在世界各地的大城市和机场都在使用 TAO。

专为 AI 工作流程打造

各种规模的企业都在使用 TAO 构建自己的视觉 AI 工厂和开发工作流。这些 AI 工作流越来越需要 TAO 现在提供的以下三种功能。

首先,TAO 可以处理最新的 AI 模型和算法,包括基础模型调优、生成式 AI 和视觉 Transformer。其次,TAO 可以与仿真方法(例如 NVIDIA Omniverse Replicator)和 Stable Diffusion 配合使用。第三,TAO 包含企业级支持,作为开发工作流程中的必要工具,即 NVIDIA AI Enterprise

在数万亿台设备上应用先进的 AI 技术

借助 TAO, NVIDIA 可通过 ONNX 和 TFLite 模型导出,在远边缘的数万亿设备上灵活部署新的 AI 模型,同时强大的生态系统采用全球领先的提供商和边缘 AI 软件平台。

ARM 利用 TAO 优化 Ethos NPU 设备上的 AI 运行时,STMicroelectronics 使用 TAO 首次在 STM32 微控制器上运行复杂的视觉 AI。Edge ImpulseNota 将 TAO 集成到其边缘 AI 平台中,为客户提供边缘优化的解决方案。

开始使用

下载 NVIDIA TAO 工具套件,开始构建由 AI 驱动的视觉感知和计算机视觉应用。请访问 NVIDIA 开发者 TAO 论坛 获取更多信息。

加入 ST 边缘 AI 峰会,NVIDIA 副总裁兼嵌入式和边缘计算总经理 Deepu Talla 将于 12 月 6 日发表演讲,介绍如何构建新一代边缘 AI 平台,以及 NVIDIA TAO 如何不断发展。

阅读原文

相关推荐
安全二次方security²2 天前
CUDA C++编程指南(7.31&32&33&34)——C++语言扩展之性能分析计数器函数和断言、陷阱、断点函数
c++·人工智能·nvidia·cuda·断点·断言·性能分析计数器函数
安全二次方security²3 天前
CUDA C++编程指南(7.25)——C++语言扩展之DPX
c++·人工智能·nvidia·cuda·dpx·cuda c++编程指南
安全二次方security²8 天前
CUDA C++编程指南(7.19&20)——C++语言扩展之Warp投票函数和Warp匹配函数
c++·人工智能·nvidia·cuda·投票函数·匹配函数·vote
安全二次方security²9 天前
CUDA C++编程指南(7.15&16)——C++语言扩展之内存空间谓词和转化函数
c++·人工智能·nvidia·cuda·内存空间谓词函数·内存空间转化函数·address space
安全二次方security²9 天前
CUDA C++编程指南(7.5&6)——C++语言扩展之内存栅栏函数和同步函数
c++·人工智能·nvidia·cuda·内存栅栏函数·同步函数·syncthreads
安全二次方security²10 天前
CUDA C++编程指南(7.2)——C++语言扩展之变量内存空间指定符
c++·人工智能·nvidia·cuda·内存空间指定符·__shared__·__device__
安全二次方security²10 天前
CUDA C++编程指南(7.1)——C++语言扩展之函数执行空间指定符
c++·人工智能·nvidia·cuda·cuda编程·global·函数执行空间指定符
云雾J视界11 天前
AI服务器供电革命:为何交错并联Buck成为算力时代的必然选择
服务器·人工智能·nvidia·算力·buck·dgx·交错并联
4032407314 天前
【2026最新】Jetson全系列安装支持CUDA加速的OpenCV 4.10保姆级教程(适配Jetpack 6/5及Orin/Xavier/Nano等)
linux·opencv·计算机视觉·nvidia·cuda·jetson
REDcker21 天前
Nvidia英伟达显卡型号发布史与架构演进详解
架构·gpu·显卡·nvidia·cuda·英伟达·演进