NVIDIA JetPack 7.1重磅发布：两大核心功能加持，提高边缘LLM性能降低视频处理门槛

JetPack 7.1来啦~！

在边缘计算与机器人技术飞速发展的当下，AI 推理的性能、效率与部署灵活性成为行业核心诉求。NVIDIA 推出的 JetPack 7.1 凭借一系列突破性软件特性，与全新 Jetson T4000 模块深度协同，为边缘 AI 和机器人应用带来了性能与效率的双重飞跃，重新定义了嵌入式 AI 平台的能力边界。需要注意的是，JetPack 7.1 目前仅支持 Jetson AGX Thor 开发套件、Jetson T5000 模组和 Jetson T4000 模组，精准聚焦高性能边缘计算场景的核心需求。

定位高端边缘场景：软硬件协同的旗舰级软件栈

作为 NVIDIA Jetson 系列的旗舰级软件栈，JetPack 7.1 专为下一代边缘智能场景设计，其核心优势在于对高性能硬件的深度优化与创新软件工具的全面升级。该软件栈不仅为全新 Jetson T4000 模块提供全方位支持，更保持了与 Jetson T5000 模块、Jetson AGX Thor 开发套件的兼容性，让开发者能够基于统一的软件架构实现跨性能 tier 的灵活扩展，大幅降低多平台开发与部署成本。依托 Blackwell 架构的底层支撑，JetPack 7.1 将强大的 AI 计算能力与边缘设备的资源约束完美平衡，为各类智能终端提供了稳定可靠的软件运行基础。

核心突破：TensorRT Edge-LLM 解锁边缘 LLM 高效推理

TensorRT Edge-LLM 的引入是 JetPack 7.1 的核心突破之一。这款开源 C++ SDK 专为边缘场景的大语言模型（LLM）和视觉语言模型（VLM）推理量身打造，完美解决了传统云端优化 LLM 在边缘设备上面临的资源约束难题。

与 Python-centric 的 LLM 框架不同，TensorRT Edge-LLM 采用轻量级 C++ 架构，无需复杂的 Python 依赖栈，有效降低了运行开销，避免了解释器启动延迟和垃圾回收暂停问题，能够满足机器人等实时系统的严格 latency 要求。其支持 FP8、NVFP4、INT4 等多种低精度量化模式，在保证模型精度损失可控的前提下，显著缩减了模型权重和 KV 缓存的内存占用。

实际性能表现上，借助该 SDK，Jetson T4000 能够高效运行 Qwen、Mistral 等主流 LLM，实现最高 218 tokens/sec 的推理性能，较上一代 Jetson AGX Orin 平台提升达 2 倍，为边缘设备赋予了强大的自然语言处理和多模态交互能力。

TensorRT Edge-LLM 与 vLLM 性能对比；TensorRT Edge-LLM 在多款 Qwen3 模型上的性能表现

多媒体升级：统一 Video Codec SDK 赋能实时视觉处理

在多媒体处理领域，JetPack 7.1 带来了统一化的 Video Codec SDK，首次为 Jetson Thor 平台提供硬件加速的视频编解码能力。该 SDK 以 NVENCODE 和 NVDECODE API 为核心，提供了从基础接口到高级功能的完整工具链，包括可复用的 C++ 类、示例应用和详尽文档，支持实时 4K 视频编解码，完美匹配边缘场景中视觉感知的高带宽需求。

其最大亮点在于实现了 NVIDIA 全 GPU 产品线的开发体验统一，开发者无需重构视频流水线，即可将基于桌面端或服务器端 GPU 开发的视频应用无缝迁移至 Jetson 边缘平台，大幅降低跨平台开发的工程开销。同时，通过空间 / 时间自适应量化、预视优化等精细化控制能力，开发者能够在保证视觉质量的前提下最小化比特率，为机器人视觉感知、工业检测等场景提供高效稳定的视频处理支持。

生态协同：简化开发部署，加速规模化落地

为进一步简化开发与部署流程，JetPack 7.1 构建了完善的生态协同体系。硬件层面，依托 Jetson T4000 与 T5000 模块的尺寸和引脚兼容性，开发者可设计通用载板，同时适配两款硬件平台，仅需针对散热等固有特性进行微调，而 Jetson AGX Thor 开发套件的加入则为开发者提供了更灵活的开发选择。

软件层面，JetPack 7.1 全面兼容 CUDA 及 NVIDIA AI 软件栈，现有应用和模型无需大幅修改即可快速迁移至支持的三款硬件产品上。此外，NVIDIA 联合众多硬件合作伙伴提供了经预验证的边缘系统，这些系统集成了电源、散热、I/O 接口等关键组件，支持 MIPI CSI 和 GMSL 等多相机接口标准，能够充分发挥 Jetson T4000 的 16 路 MIPI CSI 通道优势，满足多相机实时视觉 workload 的严苛需求。

合作伙伴还提供生命周期支持、区域认证和定制化服务，帮助开发者从原型验证快速过渡到规模化部署，有效降低供应链和合规风险。

总结：开启边缘智能的全新可能

JetPack 7.1 的推出，不仅为 Jetson T4000 模块、Jetson T5000 模组及 Jetson AGX Thor 开发套件注入了强大的软件动力，更构建了性能、效率与易用性兼备的边缘 AI 开发平台。通过 TensorRT Edge-LLM 的高效推理能力、统一 Video Codec SDK 的多媒体处理优势，以及完善的生态支持，JetPack 7.1 正在为自动驾驶机器人、智能基础设施、工业自动化等众多领域赋能，推动下一代智能边缘设备的创新与落地。

对于开发者而言，这一先进软件栈不仅意味着更高的开发效率和更低的部署成本，更将 Blackwell 架构的强大 AI 能力延伸至更广泛的边缘场景，为边缘智能的规模化应用奠定了坚实基础，开启了全新的发展空间。