利用 NVIDIA Holoscan 1.0 开发生产就绪型 AI 传感器处理应用

边缘 AI 开发者正在构建用于安全关键型和受监管用例的 AI 应用和产品。借助 NVIDIA Holoscan 1.0，这些应用可在几毫秒内整合实时洞察和加工处理。

借助最新发布的 NVIDIA® Holoscan 1.0，开发者可以更加轻松地构建用于多模态实时传感器处理工作的生产就绪型应用。NVIDIA AI Enterprise 现为 Holoscan 软件堆栈提供安全补丁和关键漏洞修复，并保证 API 的稳定性，这不仅降低了产品维护成本，还简化了边缘 AI 应用的大规模部署。

什么是 NVIDIA Holoscan？

Holoscan 是 NVIDIA 不限领域的多模态实时 AI 传感器处理平台，它为开发者构建端到端传感器处理管道奠定了基础。该平台以性能、可用性和生产就绪性为架构目标，在优化传感器处理工作流各环节性能的同时，最大程度地降低开发复杂性。该工作流包含：

传感器数据入口

加速计算和 AI 推理

实时可视化、执行和数据流出口

图 1. NVIDIA Holoscan 平台帮助开发者

从固定功能仪器过渡到软件定义仪器

Holoscan 平台具体包含三个主要组成部分。第一个组成部分是软件，该平台以数据移动、加速计算、实时可视化和 AI 推理为基础，建立了不限领域的 AI 实时传感器处理工作流。

NVIDIA Holoscan 是唯一能将这些功能整合在一起的单一平台。它不仅能够保证应用性能，还能降低复杂性，并缩短产品上市时间。NVIDIA Holoscan SDK 为开发者提供了一个低代码、高性能的环境，使开发者可以通过 Python 或 C++ API 使用自己选择的编程语言构建工作流。

Holoscan 平台的第二个组成部分是硬件。Holoscan 支持多种硬件配置，可满足不同的功率、尺寸、成本、计算和配置需求，包括：

NVIDIA Jetson Orin 系列产品（Orin Nano、Orin NX 和 AGX Orin）

NVIDIA IGX Orin

NVIDIA IGX Orin 外加 NVIDIA 独立 GPU，同时具备集成 GPU 和独立 GPU 的功能

搭载 NVIDIA 独立 GPU 的 x86 系统（工作站或云）

Holoscan 平台的第三个组成部分是企业支持，专门用于满足医疗技术产品发布前和发布后的需求。通过 NVIDIA AI Enterprise 提供的 Holoscan 软件服务可获得长期（长达 10 年）的全栈软件支持。

该服务具体可向开发者发布安全补丁和关键漏洞修复，并保证 API 的稳定性，从而大大降低产品维护成本。这不仅简化了操作，还让开发者能够更加放心地大规模部署 AI 应用。

图 2. NVIDIA Holoscan 帮助加快产品上市时间

生产就绪性

AI 计算的引入为企业提供了一系列可能性，这些企业正在寻找新的方式来提供差异化和价值，同时更有效地利用数据。然而，AI 软件堆栈非常复杂，影响因素达数百个，而且使用了大量第三方开放源码软件库（图 3）。

软件复杂性的增加等同于脆弱性的增加。安全性、稳定性、可靠性和生产就绪性至关重要，但对于希望在其应用中利用这些软件的开发者和企业来说却极具挑战性，对于医疗设备、机器人等安全关键型和受监管的行业来说尤其如此。

图 3. NVIDIA Holoscan 可提供

对于复杂 AI 软件堆栈来说

至关重要的生产就绪性、安全性和稳定性

例如 2023 年，美国食品及药品管理局（FDA）发布了新的医疗设备网络安全指南，规定如果提交的上市前材料中未包含 FD&C 法案第 524B 条（确保设备的网络安全）所要求的信息，则有可能被拒绝接受（RTA）。根据规定，制造商必须在产品上市后设计并发布更新和补丁，提供软件物料清单（SBOM）并提交一份确认和解决“上市后网络安全漏洞”的计划。

这给该领域开发者和企业的 AI 平台构建与维护带来了更大的挑战：

维护安全的软件堆栈需要大量资源。

在进行 CVE 扫描后需要进行评估和探索，以便采取进一步行动和措施。

软件包安全更新可能需要对依赖的 API 进行后续更改，这可能会破坏向后兼容性。

需要对整个堆栈进行持续监控和更新。

这意味着需要定期安装安全补丁和修复漏洞，并留给了企业两个代价高昂的选择：

向后移植补丁和修复程序，以避免破坏堆栈和引发潜在的验证、确认与重新认证需求。

向前滚动，但会面临破坏产品功能和增加新错误的潜在风险，产生成本高昂的验证、确认乃至重新认证周期。

生产就绪对 Holoscan 开发者的意义

Holoscan 平台为边缘提供了一个用于实时处理多模态数据的加速全栈基础设施。在过去的几个版本中，Holoscan 平台的特性和功能主要集中在高性能计算、低延迟和高吞吐量多模态传感器流式传输以及出色的可用性和更短的产品上市时间等方面。

在加入 NVIDIA AI Enterprise 后，Holoscan 1.0 增加了生产就绪性，能够为开发者提供端到端全产品生命周期支持，它还能加速企业的 AI 创新过程，同时降低产品拥有和维护的总成本。

在 NVIDIA IGX 上构建产品

凭借全栈软件支持（包括固件、操作系统、驱动程序、AI 框架、GPU 加速和 SDK），开发者可以通过单一的来源获得全栈支持，同时还能确保 API 的长期稳定和软件物料清单（SBOM）的统一。这一经过优化的服务可满足边缘客户的各种需求，例如：

CVE 补丁和关键漏洞修复以及 API 的稳定性保证。

灵活的软件分支，可选择不同的期限（9 个月至 10 年）以满足不同行业和不同产品开发阶段的开发者需求。9 个月期限支持分支每 6 个月发布一次，10 年期限支持分支每 2.5 年发布一次。

为嵌入式开发者提供 Yocto 企业支持，这些开发者更喜欢使用基于 Yocto 的定制发行版来部署产品。

基于 Yocto 的发行版可实现最小的 SBOM，只需最少的组件即可使设备正常运行。它们不仅简化了 FMEA、SW/SOUP 危险分析、网络安全危险分析和渗透测试，降低了上市后维护的监管负担和成本，还支持嵌入式硬件资源的高效利用，包括存储、内存、处理能力和电能等。

关于 Holoscan Yocto 为边缘部署提供优化的发行版的更多信息，请参见利用 NVIDIA Clara Holoscan 部署 AI 加速医疗设备：

https://developer.nvidia.com/blog/deploying-ai-accelerated-medical-devices-with-nvidia-clara-holoscan/

图 4. 使用 Holoscan 将应用从开发推向部署

在 x86 系统上进行开发、测试或部署

开发者可以在 x86 系统上使用部分堆栈支持（不包括操作系统）。更多信息请参见 NVIDIA 认证系统。通过在 x86 和 IGX 上保持相同分支软件堆栈的一致性，就能最大程度地减少从开发到部署的障碍。为此，请在用于开发和部署的各个 x86 平台上保持一致性，以便进行测试、验证和部署。

总结

NVIDIA Holoscan 与工业级 NVIDIA IGX Orin平台和 NVIDIA AI Enterprise 协同，为企业减轻了验证和维护边缘平台的负担。它使团队能够专注于构建 AI、与不断壮大的第一方和第三方开发者生态系统联合开发平台，以及快速提升业务价值。

尤其是用于医疗级生产的 IGX 服务现已通过多家 ODM 合作伙伴提供，包括但不限于：

Advantech MIC-735M-IO

ADlink MLB-IGX

onyx Healthcare ACCEL-JS2000

Dedicated Computing M1000