使用 NVIDIA IGX Orin 开发套件加速您的边缘 AI 之旅

这篇文章最初发表在 NVIDIA 技术博客上。

想象一下,你即将踏上一生难忘的山地自行车冒险之旅。你已经完成了所有的计划和培训。现在,你只需要一辆完美的自行车。你需要最好的减震器、轮胎、刹车、车架、车把和座椅。想象一下,所有这些部件都将组装在一个包装中,预先组装,为您节省时间和金钱。

NVIDIA IGX Orin 为边缘人工智能应用程序开发人员提供了类似的软件包:一个优化的一体式平台。 NVIDIA IGX Orin 是第一个将工业级硬件与企业级软件相结合并支持边缘人工智能管理的平台。

图 1 。用于安全边缘人工智能管理的硬件和企业级软件工作流程

NVIDIA IGX Orin 使公司能够转向软件定义的模型,从而提高开发速度并降低成本,而不是花费宝贵的资源拼凑平台来运行或开发人工智能应用程序。

NVIDIA IGX Orin 专为工业和医疗环境打造,为开发人员提供边缘人工智能所需的性能、耐用性、安全性和安全功能。

NVIDIA IGX Orin 开发套件

一体式 NVIDIA IGX Orin Developer Kit 配有机箱和电源,可帮助您启动或加速边缘人工智能应用程序开发。 NVIDIA IGX Orin 开发套件的主要功能如下所述。

硬件

  • IGX Orin 模块:工业级和认证就绪
    • CPU : 12 芯臂
    • GPU : NVIDIA Ampere 1024 CUDA , 64 张量
    • 硬件安全扩展
    • 功能安全岛
  • NVIDIA ConnectX-7 智能网络接口卡( SmartNIC )提供 200 Gb / s 的网络速度,非常适合接收高帧率视频
  • 用于固件更新的 NVIDIA 基板管理控制器( BMC )
  • 安全 MCU
    • 与功能安全岛( FSI )和安全扩展包软件携手合作
    • 监控 IGX 和机箱环境电压、温度、风扇和速度
  • 机箱,包括冷却风扇
  • 电源装置
  • 附件(用于连接的各种电缆)

软件

有关更多信息,请参阅 NVIDIA IGX product specifications

关键用例

许多领先的工业和医疗公司目前正在使用 NVIDIA IGX Orin 将人工智能应用于其运营和解决方案中。继续阅读,了解更多关于在 NVIDIA IGX 平台上开发的一些关键用例的信息。

工业安全:预防工作场所危险

随着机器与人类互动的增加,特别是在仓库和制造环境中, functional safety 变得至关重要。有关更多详细信息,请参见 New NVIDIA IGX Platform Helps Create Safe, Autonomous Factories of the Future

Reactive safety 是自动驾驶机器的标准规定,当安全威胁或事件发生时,会减慢或关闭机器人。虽然这可能会减轻对相关人员造成的伤害,但停机时间可能会非常昂贵。

除了支持反应安全功能外, NVIDIA IGX Orin 还使公司能够构建一层 proactive safety ,以防止危险事件的发生。主动安全的运作就像一个早期检测和响应系统,通过一个控制面板来监督一队自主机器。

主动安全包括识别事件发生时的安全问题 before ,采取适当措施,保护工人,消除停机时间和相关成本。以下提供了一些主动安全的具体示例。

  • PPE detection :可以训练人工智能模型,以帮助监测和检测个人防护装备( PPE )的适当使用。
  • Barrier breaches :启用人工智能的摄像头和传感器可以识别和分类物体和人,以确定是否存在安全或安保威胁,并提示采取适当的安全措施。
  • Collision detection :人工智能可以分析实时视频和图像处理,以确定机器和人类的运动是否可能导致碰撞。然后它可以采取安全措施来避免事故的发生。

NVIDIA IGX Orin 和 NVIDIA Metropolis SDK 的结合为开发人员提供了加速功能安全人工智能应用程序开发和管理自动驾驶机器车队所需的强大平台。

工业自动化:更快、更准确、更高效的供应链

低效的供应链加上劳动力短缺,对公司满足需求和保持积极客户满意度的能力产生了深远的负面影响。对更高效的供应链的迫切需求导致了人工智能解决方案的快速发展。

例如,履行中心在公司的供应链中发挥着关键作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和 NVIDIA Omniverse 可以将低效的供应链转变为经得起未来考验的适应性操作。可以开发人工智能应用程序,以产生高质量的感知数据,为实时决策提供信息,从而提高运营效率。请参阅下面的几个例子。

  • Industrial inspection :人工智能模型被训练来检测和分类物体,并识别和去除任何缺陷产品。
  • Predictive maintenance :通过对周围环境、故障检测和机器/机器人性能的数据分析,人工智能可以预测设备何时可能需要主动维护以避免停机。
  • Field inspection :图像识别和处理与自动报告相结合,使现场检查更加准确、安全和高效。

通过分析来自传感器或其他来源的数据,可以在人工智能的帮助下检测甚至消除生产中的瓶颈。

医疗设备:在临床边缘实时处理流式数据

医疗设备制造商正在采用新的人工智能功能,以加速 TTM 并降低开发和维护成本。利用人工智能计算平台使医疗设备开发人员能够:

  • 更快地训练医学人工智能模型
  • 构建和微调医疗人工智能应用程序
  • 验证和验证医疗级应用程序
  • 安全部署到临床生产

使用 NVIDIA IGX Orin 和 NVIDIA Holoscan SDK ,开发人员可以大大加快人工智能应用程序和人工智能医疗设备的开发。 NVIDIA Clara Holoscan 是一个在 NVIDIA IGX Orin 上运行的实时人工智能计算平台,用于高精度人工智能、高级安全和主动安全。下面列出了 NVIDIA IGX Orin 和 NVIDIA Clara Holoscan 的一些早期用例。

  • Ultrasound :人工智能应用可以通过改进图像优化、分析和解释来提高超声的准确性。这有助于更好地诊断癌症肿瘤或妊娠期异常等疾病。
  • Endoscopy :人工智能可以帮助提高成像解释的准确性和速度,从而减少医疗专业人员的工作量,并更好地检测任何情况。要了解更多信息,请参阅 AI in Endoscopy: Improving Detection Rates and Visibility with Real-Time Sensing
  • Robotic surgery :医疗保健创新者正在寻找使用人工智能的方法,通过实时可视化肉眼无法看到的关键生理结构和功能,如血流,来帮助外科医生避免并发症。其他领先的公司使用人工智能远程连接外科医生,因此他们能够合作并产生尽可能好的患者结果。要了解更多信息,请参阅 NVIDIA Medical Edge AI Computing Platform Selected by Top Robotic and Digital Surgery Startups

开始

无论您是在规划阶段,还是在起点,还是在您的边缘 AI 之旅的中途, NVIDIA IGX Orin 开发工具包都会让您更快到达目的地。立即获取 NVIDIA IGX Orin Developer Kit

阅读原文

相关推荐
扫地的小何尚8 天前
NVIDIA RTX 系统上使用 llama.cpp 加速 LLM
人工智能·aigc·llama·gpu·nvidia·cuda·英伟达
布鲁格若门9 天前
AMD CPU下pytorch 多GPU运行卡死和死锁解决
人工智能·pytorch·python·nvidia
centurysee11 天前
【一文搞懂】GPU硬件拓扑与传输速度
gpu·nvidia
算家云17 天前
moffee模型部署教程
人工智能·python·github·markdown·nvidia·ppt·幻灯片制作
坐望云起1 个月前
Ubuntu20.04 更新Nvidia驱动 + 安装CUDA12.1 + cudnn8.9.7
linux·ubuntu·nvidia·cuda·onnx·1024程序员节
RZer1 个月前
NVIDIA 发布适用于网络安全的 NIM Blueprint
安全·web安全·nvidia
LifeBackwards1 个月前
Ubuntu安装nvidia显卡驱动
ubuntu·显卡·nvidia
great-wind1 个月前
麒麟系统离线安装英伟达驱动
nvidia
utmhikari1 个月前
【DIY小记】新手小白超频i9-12900kf和3070ti经验分享
cpu·显卡·nvidia·超频·微星
学森杰登1 个月前
大模型生成PPT大纲优化方案:基于 nVidia NIM 平台的递归结构化生成
人工智能·python·自然语言处理·chatgpt·powerpoint·nvidia