Nvidia的Jetson Agx Orin开发套件是一个出色的嵌入式平台,可提供275个原始性能。它针对机器人技术等应用程序,但对于需要人工智能(AI)和机器学习(ML)支持的任何嵌入式应用程序也同样效果。
Jetson AGX Orin模块(见图)建造围绕十几个,64位的ARM Cortex-A78AE v8.2核心,可访问3-MB L2和6-MB L3缓存以及基于NVIDIA的新安培体系结构的GPU。其中包括2,048个NVIDIA CUDA核心和64个张量核心以及一对NVIDIA深度学习加速器(NDLAS)v2.0,用于AI/ML应用。可编程视觉加速器(PVA)简化了多个视频流的视频处理,这是平台的常见任务。
硬件令人印象深刻,但实际上是NVIDIA软件的真正不同。Jetson JetPack SDK建立在UbuntuLinux,包括基于UEFI的Bootloader支持和运算台作为可信赖的执行环境。开发套件随附了所有安装的东西,这使入门变得更加容易。它包括对基础CUDA,CUDNN,TENSORRT和DEEPSTREAM工具的支持。
在最新套件中脱颖而出的两个项目是NVIDIA火车改速优化(TAO)和NVIDIA RIVA。后者针对语音AI,而Tao则建立在Nvidia的预培训模型的基础上。这些可以在Microsoft的Azure Cloud中进行自定义。