新闻中心

华硕NVIDIA Jetson Orin系列边缘AI计算机提升生成式AI性能

在Jetson Orin NX和Orin Nano系列上开启超级模式,可体验高达2倍的Gen AI模型性能

2025/1/16

要点摘要

  • ASUS IoT边缘AI计算机PE1102N、PE1101N和PE1100N支持NVIDIA Jetson™ Orin™ NX和Orin Nano系列的超级模式,可提供高达2倍的Gen AI模型性能
  • 基于Jetson Orin NX 16GB平台的产品,超级模式可提供高达157 TOPS(稀疏)
  • 所有基于Jetson Orin平台的ASUS IoT边缘AI计算机现在都支持最新的NVIDIA JetPack 6.2 SDK
PE1102N, PE1101N, PE1100N edge computer lineup with lighting curve background

华硕 NVIDIA® Jetson Orin系列边缘AI计算机已全面升级,启用新的超级模式。此次升级将AI TOPS提高了1.7倍,内存带宽提高了1.5倍,Gen AI模型性能提高了2倍。

高达 1.7X 倍的AI TOPS,与超级模式广泛兼容

由于超级模式将AI TOPS提高了1.7倍,因此可以支持各种Gen AI模型,包括大型语言模型(LLM)、视觉语言模型(VLM)和视觉转换器(ViT)。Jetson Orin模块支持目前主流的机器学习框架,例如Hugging Face Transformers、Ollama、llama.cpp、vLLM、MLC、NVIDIA TensorRT-LLM 等。这使其成为边缘应用、机器人以及多模态系统的上佳选择。

更快速、更通用、更强固——华硕NVIDIA Jetson Orin系列边缘AI计算机

华硕NVIDIA Jetson Orin系列 PE1102N, PE1101N, 以及 PE1100N—现在能够以更快的速度处理生成式AI工作负载,并且具备增强的数据处理能力。它们外形设计紧凑,通用性极高,可广泛被连接,是智慧城市、智能交通以及车载和智能物流应用的理想选择,比如智能停车、交通分析以及自动导引车/自主移动机器人(AGV/AMR)等。每个解决方案都赋予开发者在边缘以更快速度处理数据的能力,同时具备更强的安全性,还能显著节省总拥有成本(TCO)。

华硕NVIDIA JetsonOrin系列边缘AI计算机还具有坚固的结构,可在宽温环境下运行,提供出色的热性能,以最大限度地提高户外使用的整体效率。

支持NVIDIA JetPack 6.2 SDK以启用超级模式

通过下载最新的NVIDIA JetPack 6.2 SDK,可在ASUS IoT 边缘AI计算机 (PE1102N, PE1101N, PE1100N) 上激活Jetson Orin NX和Orin Nano系列的超级模式。

JetPack 6.2是JetPack 6的最新生产版本。此版本包括Jetson Linux 36.4.3,具有Linux内核5.15和基于Ubuntu 22.04的根文件系统。JetPack 6.2附带的Jetson AI堆栈包括CUDA 12.6、NVIDIA TensorRT 10.3、NVIDIA cuDNN 9.3、NVIDIA视觉编程接口3.2、NVIDIA深度学习加速器3.1和DLFW 24.0。JetPack 6.2为NVIDIA Jetson Orin Nano和Jetson Orin-NX生产模块带来了新的高功率超级模式。超级模式将Gen AI模型的AI推理性能提高了2倍。

分享