这篇文章最初发表在 NVIDIA 技术博客上。
各个行业对实时见解和自主决策的需求正在增长。为了满足这一需求，我们需要可扩展的边缘解决方案平台，这些平台可以从源头有效处理人工智能传感器数据，并扩展到本地或云计算资源。
然而，开发人员在边缘使用人工智能和传感器处理时面临许多挑战：
- 实时延迟要求
- 为人工智能传感器处理构建和维护自定义管道的复杂性
- 需要与硬件无关的解决方案来满足边缘的异构硬件需求
- 多模态和各种感觉模态的处理
- 从边缘到本地到云分布式网络的集成
- 长期整堆稳定性
在 NVIDIA Holoscan 出现之前，没有一个单一的平台能够提供全面的解决方案来有效应对众多边缘人工智能挑战。Holoscan 通过无缝集成数据移动、加速计算、实时可视化和人工智能推理，确保了最佳的应用程序性能。它为开发人员抽象了复杂性，缩短了上市时间，并提供了用 Python 和 C++ 进行编码的便利，所有这些都在一个低代码、高性能的基础设施中。
Cosmo Intelligent medical Devices 总裁 Nhan Ngo Dinh 表示："Holoscan 平台使新的 SaMD（作为医疗设备的软件）能够快速生产，并与开发环境无缝集成，从而实现 S AMD 的生产和快速部署。"。"这加快了使用 NVIDIA Holoscan SDK 可编程集成开发的上市时间，易于从开发过渡到生产。"
对于边缘开发人员来说，在具有不同硬件需求和架构的边缘设备的异构环境中导航可能会令人望而生畏。Holoscan 通过其与硬件无关的方法简化了这种复杂性。
该平台提供了一个统一的堆栈，可容纳从 x86 到 aarch64，从 NVIDIA Jetson Orin-AGX 到 NVIDIA IGX-Orin 的各种设备，满足不同的功率、大小、成本、计算和配置需求。这种多功能性将您从硬件限制中解放出来，同时提高跨应用程序的互操作性、可维护性和可扩展性。
NVIDIA Holoscan 的 v0.6 版本引入了新功能，使您能够在构建 AI 流媒体解决方案时达到新的可扩展性、生产力和易用性水平。具体而言，这组新功能实现了以下优势：
- 通过分布式计算体系结构实现边缘的可扩展性
- 平台开发的可移植性、协作性和互操作性
- 具有数据帧流跟踪功能的高级评测可实现最佳性能
通过分布式计算体系结构实现可扩展性
对于工作量大或有兴趣扩展的开发人员，Holoscan v0.6 提供了 multi-GPU, multi-node 支持，以支持分布式计算。具体来说，您现在可以部署分布式应用程序，并使用单个节点上的所有可用 GPU 资源。或者，您也可以在具有优化网络通信的独立物理节点上部署单个 Holoscan 应用程序。
Multi- GPU ，多节点使传感器处理应用程序能够随着不断增长的计算需求而扩展，并为您的设计提供更大的灵活性和可扩展性。对于用户来说，它打开了新的可能性，增加了处理能力、并行处理、根据关键性分离工作负载、部署后在不更换现有单元的情况下扩大规模、容错性和可靠性。
图 1。使用多片段 API 扩展的分布式应用程序
平台开发人员的可移植性、协作性和互操作性
如果您正在开发一个平台，而不是从头开始创建独立的产品，Holoscan v0.6 提供了一组新功能，可以实现更大的可扩展性和灵活性，以实现更广泛的使用和易于集成：
- App packager：通过简化应用程序的容器化和部署，提供可移植性，增强协作并为平台做出贡献。
- 多后端：简化了从模型训练到人工智能应用程序构建的过程，通过即插即用的方式部署已训练的 PyTorch 模型。
- Holoviz volumetric rendering：提供内置的体积渲染功能，支持医学成像的可视化。
具有数据帧流跟踪功能的高级分析
即将发布的版本将包括 数据帧流跟踪 功能，使您能够通过数据帧跟踪来衡量性能，以便快速调整瓶颈。此外，多线程调度器 使应用程序能够并行运行运算符，从而优化了系统资源的使用。
使用案例和成功案例
NVIDIA Holoscan SDK 已迅速发展成为一个加速的全栈基础设施，为跨各个领域的可扩展、软件定义和实时处理做出了重大贡献。
以下医疗保健公司已经接受并建立在这项技术的基础上：
- Medtronic，作为世界上最大的医疗设备公司，正在 Holoscan 平台上构建下一代人工智能辅助结肠镜检查系统（等待美国食品药品监督管理局批准）。
- Moon Surgical，一家总部位于巴黎的机器人手术公司，其产品 Maestro 正在完成产品化。这是一个基于 Holoscan 和 IGX 的可访问、自适应的手术辅助机器人系统。
- ORSI Academy，一家位于比利时的外科培训中心，使用 Holoscan 支持人类现实世界中的第一个机器人辅助手术，用于切除癌症肾脏等关键手术。
Moon Surgical 首席技术官 David Noo Nan 表示："Holoscan 消除了为医疗设备应用构建安全可靠的传感器数据处理管道的挑战。传统上，此类管道需要专门的专家团队来开发和维护。"。使用 Holoscan，我们能够在短的开发时间内为 Maestro 手术机器人系统推出创新功能，同时保持精干的研发团队。"
其他用例包括 AR/VR、雷达技术和科学仪器。
Magic Leap 正在开发一种基于 Holoscan 的解决方案，该解决方案将人工智能与真实的增强现实相结合，从而彻底改变医生和外科医生的培训、可视化以及复杂程序的性能。
来自 Georgia Tech Research Institute 的团队使用 Holoscan 开发了一种实时雷达应用程序，该程序用于国防、航空航天、气象、导航和监视。
- NVIDIA 与Analog Devices 合作构建了一个 5G Instrumentation 应用程序，该应用程序利用 Holoscan 在 NVIDIA IGX 平台上以超过 120 Gbps 的速度进行计算密集型信号处理。
- 在英国世界知名的同步加速器 Diamond Light Source，开发人员使用基于 Holoscan 和 Jax 的操作员将 Holoscan 轻松连接到现有的 Ptychography 软件库，以加快图像处理和重建。
钻石光源成像与显微镜科学小组组长 Paul Quinn 表示："通过 Holoscan，我们创建了一个端到端的数据流管道，可以在 I08-1 光束线上进行实时 ptychographic 图像处理，大大丰富了整体用户交互。"。
开始使用 Holoscan 0.6
NVIDIA Holoscan 0.6 的发布标志着边缘 AI 解决方案开发的一个重要里程碑，提供了前所未有的可扩展性、灵活性和性能。凭借其多样化的应用和成功案例，Holoscan 正在边缘塑造人工智能传感器处理的未来，为全球各个行业开辟新的可能性。
要开始开发，请参阅 NVIDIA Holoscan SDK。