使用NVIDIA Jetson Orin Nano解决入门级边缘AI挑战

 行业动态     |      2023-12-27 09:49:30    |      沥拓

  NVIDIA 发布的 Jetson Orin Nano 系列的系统级模组(SoM)。其 AI 性能是 NVIDIA Jetson Nano 的 80 倍,成为入门级边缘 AI 和机器人技术的新基准。

  Jetson 系列首次包括基于 NVIDIA Orin 的模组,从入门级的 Jetson Orin Nano 到最高性能的 Jetson AGX Orin,使客户能够灵活地轻松扩展其应用程序。

  借助 Jetson AGX Orin 开发者工具套件提供的完整软件仿真支持,可以立即启动您的 Jetson Orin Nano 开发。

  各行业的日常用例对提高实时处理能力的需求继续增长。入门级 AI 应用程序,如智能相机、手持设备、服务机器人、智能无人机、智能仪表等,都面临着类似的挑战。

  这些应用需要在设备上对来自其多模态传感器工作流的数据进行更多的低延迟处理,同时保持在高能效、成本优化的小尺寸的范围内。

  立即使用 Jetson AGX Orin 开发者套件和仿真开启您的开发流程

  Jetson AGX Orin 开发者套件和所有 Jetson Orin 模组共享一个 SoC 架构,让开发者工具套件能够模拟任何模块,使您能够轻松开始开发下一个产品。

  在开始将其应用程序移植到新的 NVIDIA Orin 体系结构和最新的 NVIDIA JetPack 之前,您无需等待 Jetson Orin Nano 硬件正式上线。通过新发布的覆盖层,你可以用开发工具套件模拟Jetson Orin Nano模块,就像使用其他Jetson Orin模块一样。通过将开发者套件配置为模拟Jetson Orin Nano 8GB或Jetson Orin Nano 4GB,用户可以开发并运行全部应用程序工作流。

  Jetson Orin Nano 的性能基准

  凭借 Jetson AGX Orin,NVIDIA 在 MLPerf 的推理性能类别中处于领先地位。Jetson Orin 模组为您的下一代应用程序提供了巨大飞跃,现在入门级 AI 设备也可以使用相同的 NVIDIA Orin 架构。

  我们使用 NVIDIA JetPack 5.0.2 的仿真模式运行 Jetson Orin Nano 的计算机视觉基准测试,结果显示了它是如何设置新标准的。测试包括来自 NGC 的一些密集 INT8 和 FP16 预处理模型,以及标准 ResNet-50 模型。我们还在 Jetson Nano、TX2 NX 和 Xavier NX 上运行相同的模型进行比较。

  以下是基准的完整列表:

  NVIDIA PeopleNet v2.3 用于修剪人员检测,NVIDIA PeopleNet v2.5 用于最高精度的人员检测

  NVIDIA ActionRecognitionNet 二维和三维模型

  NVIDIA LPRNet 用于车牌识别

  NVIDIA DashCamNet,BodyPoseNet 用于多人人体姿势估计

  ResNet-50(224 × 224)模型

  以这些基准的平均值来看,Jetson Orin Nano 8GB 的性能比 Jetson Nano 提高了 30 倍。随着未来软件的改进,我们预计性能将提高 45 倍。其他 Jetson 设备自其第一个支持软件发布以来,性能提高了 1.5 倍,我们预计 Jetson Orin Nano 也会如此。

  Jetson 运行 NVIDIA AI 软件堆栈,并提供特定于用例的应用程序框架,包括用于机器人的 NVIDIA Isaac、用于视觉 AI 的 NVIDIA DeepStream 和用于会话 AI 的 NVIDIA Riva。使用 NVIDIA Omniverse Replicator 可以节省大量时间用于合成数据生成(SDG),使用 NVIDIA TAO 工具套件可以节省大量的时间用于微调 NGC 目录中的预处理 AI 模型。

  Jetson 与整个 NVIDIA AI 加速计算平台的兼容性使开发和无缝迁移变得容易。

  使用 NVIDIA Isaac ROS 增强入门级机器人

  Jetson Orin 平台旨在解决最棘手的机器人挑战,为 70 多万名 ROS 开发人员带来加速计算。结合 Jetson Orin Nano 强大的硬件功能,最新的 NVIDIA Isaac 软件中针对 ROS 的增强功能为机器人专家提供了卓越的性能和生产力。

  新的 Isaac ROS DP 版本优化了可以在 Jetson Orin 平台上执行的 ROS2 节点处理工作流,并提供了新的基于 DNN 的 GEMS,旨在提高吞吐量。Jetson Orin Nano 可以利用那些高度优化的 ROS 2 packages 执行定位、实时 3D 重建和深度估计等任务,这些任务可用于避障。

  与只能处理简单应用程序的原始 Jetson Nano 不同,Jetson Orin Nano 可以运行更复杂的应用程序。随着不断致力于提高 NVIDIA Isaac ROS,您将看到 Jetson Orin 平台的精确度和吞吐量随着时间的推移而不断提高.

  对于开发下一代服务机器人、智能无人机等的机器人专家来说,Jetson Orin Nano 是一种理想的解决方案,它具有高达 40 个 TOPS,可在节能和小尺寸的情况下实现现代 AI 推理工作流。

  Jetson Orin 平台旨在解决最棘手的机器人挑战,为 70 多万名 ROS 开发人员带来加速计算。结合 Jetson Orin Nano 强大的硬件功能,最新的 NVIDIA Isaac 软件中针对 ROS 的增强功能为机器人专家提供了卓越的性能和生产力。

  新的 Isaac ROS DP 版本优化了可以在 Jetson Orin 平台上执行的 ROS2 节点处理工作流,并提供了新的基于 DNN 的 GEMS,旨在提高吞吐量。Jetson Orin Nano 可以利用那些高度优化的 ROS 2 packages 执行定位、实时 3D 重建和深度估计等任务,这些任务可用于避障。

  与只能处理简单应用程序的原始 Jetson Nano 不同,Jetson Orin Nano 可以运行更复杂的应用程序。随着不断致力于提高 NVIDIA Isaac ROS,您将看到 Jetson Orin 平台的精确度和吞吐量随着时间的推移而不断提高。

  对于开发下一代服务机器人、智能无人机等的机器人专家来说,Jetson Orin Nano 是一种理想的解决方案,它具有高达 40 个 TOPS,可在节能和小尺寸的情况下实现现代 AI 推理工作流。