NVIDIA正式发布Deepstream 7.0。
做AI视频分析的开发者们很熟悉NVIDIA DeepStream,这是一个强大的软件开发工具包(SDK),能帮助我们利用NVIDIA GPU的加速能力,来构建完整的视觉人工智能(AI)处理流程。这个工具包里有40多个现成的插件,可以帮助我们快速部署优化后的处理流程,这些流程具备先进的AI推理功能、对象跟踪功能,并且可以与REDIS、Kafka和MQTT等流行的物联网消息传递系统进行无缝连接。
DeepStream 还提供了一个直观的REST API,无论你的AI处理流程是部署在远离中心的地方还是云端,都可以通过这个API进行控制。
最新推出的DeepStream 7.0有飞跃式的更新,为应对生成式AI的新时代提供了许多突破性的功能,并加速了新一代应用程序的开发。
新版本DeepStream 7.0的亮点有:
DeepStream 7.0:优化视觉AI应用性能的新选择
在构建视觉AI应用时,NVIDIA要先优化AI的处理流程,以达到最佳性能。不论你是经验丰富的专家还是新手,了解整体策略都很重要。
简单来说,你有两种主要的选择:
如图:视觉 AI 应用工作流
这种方法的好处是,它能确保GStreamer生态系统中的各个部分都能很好地兼容和集成。DeepStream在处理流程中的各个插件之间实现了零内存复制,从而达到了很高的性能。
如图:DeepStream 插件高级架构
随着DeepStream 7.0的推出,NVIDIA为开发者提供了新的方式,既可以继续使用GStreamer的强大功能,也可以通过直观的Python API来使用DeepStream库的功能。这种方法不仅让Python开发者更容易使用NVIDIA的加速功能,而且还能与你现有的AI框架无缝集成。DeepStream库由NVIDIA CV-CUDA、NvImageCodec和PyNvVideoCodec支持,提供了一系列低级别的GPU加速操作,可以轻松地替代视觉AI处理流程中前处理和后处理阶段的CPU操作。
如图:DeepStream 库
作为开源库,它们提供了完全的透明度和必要的工具,让库之间可以零内存复制交互,并且可以与流行的深度学习框架相结合。安装命令可以简化集成过程。
DeepStream 7.0现在支持的两种方式各有优点:
DeepStream Service Maker:让应用开发变得简单直观
DeepStream Service Maker是NVIDIA DeepStream技术套件中的一个创新功能,主要为简化应用程序的开发过程。对于初次接触GStreamer的开发人员,其学习曲线可能会比较陡峭,但DeepStream Service Maker的推出为他们带来了福音。
这个功能能够降低GStreamer的复杂性,使得开发过程更加简化,让开发者能够更快速地构建C++面向对象的应用程序。使用DeepStream Service Maker,开发者可以在很短的时间内构建管道、集成必要的插件、将它们连接起来并启动应用程序。这些应用程序可以轻松打包到容器中,并通过REST API进行管理,从而极大地简化了工作流程,并大幅减少了传统的编码工作量。
这个功能还特别适合不熟悉GStreamer的用户,使他们的开发过程更加直观。同时,对于有经验的开发者来说,它也能解锁新的功能。此外,它还支持自定义插件,这对那些花时间创建自定义解决方案的开发者来说非常重要。
DeepStream Service Maker改变了处理和管理应用程序开发的方式,将复杂的编码需求简化为几行代码,使得开发过程比以往任何时候都更容易、更便捷。这个功能还能加速边缘环境的应用程序开发,是开发Metropolis Microservices for Jetson(MMJ)微服务的理想选择。它还可以轻松部署为云上的微服务,并可通过REST API进行控制。使用这个功能生成的应用程序可以轻松打包到容器中,并通过直观的REST API(如流添加和删除以及感兴趣区域ROI配置)进行管理和动态控制。目前,DeepStream Service Maker的首个版本支持C++,而未来的版本将提供Python支持,这将进一步扩大该工具的可访问性和功能多样性。
DeepStream与WSL2的完美结合:直接在Windows上开发AI应用
如今,Windows用户有个好消息:您可以直接在Windows系统上,利用适用于Linux的Windows子系统(WSL2)来开发DeepStream应用程序了。这是很多希望在Windows这一IT认可的系统上进行开发的客户长期以来的需求,现在终于实现了。
WSL2与DeepStream的结合,让您无需远程登录Linux系统,就能在同一个系统上简化工作流程。这意味着,您可以使用DeepStream的强大功能,而无需设置复杂的双系统,从而让开发过程更加简洁,并提升您的工作效率。
如图:基于 WSL2 体系结构的 DeepStream SDK
WSL2对DeepStream的支持为用户提供了在Windows上直接开发高级应用程序的灵活性和方便性。现在,您既可以享受到Windows的兼容性便利,又能利用DeepStream的强大功能。
关于Deepstream最新文档,请访问:
docs.nvidia.com/metropolis/deepstream/dev-guide/