
华硕NVIDIA Jetson Orin系列边缘AI计算机提升生成式AI性能
在Jetson Orin NX和Orin Nano系列上开启超级模式,可体验高达2倍的Gen AI模型性能
要点摘要
- ASUS IoT边缘AI计算机PE1102N、PE1101N和PE1100N支持NVIDIA Jetson™ Orin™ NX和Orin Nano系列的超级模式,可提供高达2倍的Gen AI模型性能
- 基于Jetson Orin NX 16GB平台的产品,超级模式可提供高达157 TOPS(稀疏)
- 所有基于Jetson Orin平台的ASUS IoT边缘AI计算机现在都支持最新的NVIDIA JetPack 6.2 SDK

— 华硕 NVIDIA® Jetson Orin™系列边缘AI计算机已全面升级,启用新的超级模式。此次升级将AI TOPS提高了1.7倍,内存带宽提高了1.5倍,Gen AI模型性能提高了2倍。
高达 1.7X 倍的AI TOPS,与超级模式广泛兼容
由于超级模式将AI TOPS提高了1.7倍,因此可以支持各种Gen AI模型,包括大型语言模型(LLM)、视觉语言模型(VLM)和视觉转换器(ViT)。Jetson Orin模块支持目前主流的机器学习框架,例如Hugging Face Transformers、Ollama、llama.cpp、vLLM、MLC、NVIDIA TensorRT-LLM 等。这使其成为边缘应用、机器人以及多模态系统的上佳选择。
更快速、更通用、更强固——华硕NVIDIA Jetson Orin系列边缘AI计算机
华硕NVIDIA Jetson Orin系列 PE1102N, PE1101N, 以及 PE1100N—现在能够以更快的速度处理生成式AI工作负载,并且具备增强的数据处理能力。它们外形设计紧凑,通用性极高,可广泛被连接,是智慧城市、智能交通以及车载和智能物流应用的理想选择,比如智能停车、交通分析以及自动导引车/自主移动机器人(AGV/AMR)等。每个解决方案都赋予开发者在边缘以更快速度处理数据的能力,同时具备更强的安全性,还能显著节省总拥有成本(TCO)。
华硕NVIDIA JetsonOrin系列边缘AI计算机还具有坚固的结构,可在宽温环境下运行,提供出色的热性能,以最大限度地提高户外使用的整体效率。
支持NVIDIA JetPack 6.2 SDK以启用超级模式
通过下载最新的NVIDIA JetPack 6.2 SDK,可在ASUS IoT 边缘AI计算机 (PE1102N, PE1101N, 和 PE1100N) 上激活Jetson Orin NX和Orin Nano系列的超级模式。
JetPack 6.2是JetPack 6的最新生产版本。此版本包括Jetson Linux 36.4.3,具有Linux内核5.15和基于Ubuntu 22.04的根文件系统。JetPack 6.2附带的Jetson AI堆栈包括CUDA 12.6、NVIDIA TensorRT 10.3、NVIDIA cuDNN 9.3、NVIDIA视觉编程接口3.2、NVIDIA深度学习加速器3.1和DLFW 24.0。JetPack 6.2为NVIDIA Jetson Orin Nano和Jetson Orin-NX生产模块带来了新的高功率超级模式。超级模式将Gen AI模型的AI推理性能提高了2倍。