随着愈来愈多人工智能应用程序部署在边缘端,IT 组织开始在寻找部署与管理其边缘运算系统及软件的最佳方法。NVIDIAFleet Command 将 NVIDIA 认证系统变成安全的边缘装置,并可在数分钟内将其连接至云端,让任何规模的企业都能享有安全的边缘人工智能。您可以在云端,从NGC 目录或 NGCprivate registry 中部署和管理应用程序、以无线方式更新系统软件,且透过浏览器与网络联机,即能从远程管理系统。您可以使用 NVIDIA LaunchPad 测试产品,协助企业测试 FleetCommand 的优点。LaunchPad 透过精心规画的测试环境,让您能取得专用硬件和 Fleet Command 软件,实际进行在边缘端部署和管理人工智能应用程序的整个过程。我将在本文中介绍 LaunchPad 上的 Fleet Command 试用版,包括如何申请试用、完成精心安排的测试体验所需的时间,以及后续步骤。
Fleet Command 是专为负责管理多个边缘地点之人工智能应用程序的 IT 和 OT 专业人员而设计。此产品的的易用性,让任何技能水平的专业人士都能轻松上手。我们将透过经过精心规画的测试,仔细介绍如何部署一个演示应用程序。即将进行边缘项目的人可以使用所展示的应用程序,测试Fleet Command 的功能,但是仍需要在现场进行全面测试。Fleet Command 测试体验项目,是NVIDIA 专为在边缘部署和管理人工智能应用程序而设计。NVIDIA LaunchPad提供了透过 NVIDIA Base Command 管理训练环境的其他测试,以及简化企业数据中心开发和部署人工智能事宜的NVIDIAAI Enterprise。
在本试用活动中,您是 Fleet Command 的管理员,将在十字路口部署计算车流量的计算机视觉应用程序。整体试用活动需要大约一小时的时间。
Fleet Command 可以从任何地方,透过 NVIDIA 的人工智能 GPU 优化软件中心 NGC 取得,管理员可以从远程管理边缘位置、系统和应用程序。管理员会自动将 Fleet Command 加入 NGC 控制台。
Fleet Command 中的一个位置,是代表已安装实体系统的现实位置。您在测试中可以建立一个边缘位置,但是客户可以在生产环境中管理成千上万的位置。在新增位置时,请选择 Add Location,并填写详细信息。选择可用的最新版本。
之后在该位置新增代表边缘之实体系统的系统。完成此步骤会产生一个代码,让您可以在现场使用 Fleet Command 操作堆栈安全地配置服务器。之后选择刚才建立的位置,选择AddSystem。
新增系统名称与描述,以完成此流程。在将位置加入系统之后会产生一个启动码,可以将 Fleet Command 与现场的实体系统进行配对。
NVIDIA LaunchPad 提供了一个系统控制台,可以存取试用体验活动的服务器。依据提示完成安装。在进行初始设定之后,系统会提示输入在 Fleet Command 中建立系统时产生的启动码。
在输入启动码后,系统将会完成与 Fleet Command 的配对。FleetCommand 用户接口上的一个复选框会显示出服务器正在运行,并已备妥进行远程管理。
现在本地安装程序已将系统与 Fleet Command 进行配对,让您可以部署一个人工智能应用程序。应用程序可以托管在您的 NGC private registry 上,或直接托管在 NGC 目录上。
使用 Helm chart 部署人工智能应用程序,Helm chart可以定义、安装和升级 Kubernetes 应用程序。选择 Add Application 以及在提示中输入信息。现在应用程序已在 Fleet Command 中准备就绪,可以将其部署至一个或多个系统上。选择您建立的位置和应用程序以建立部署,确保勾选启用应用程序存取的方框。
现在,已将应用程序部署在服务器上,您可以在试用版的应用程序中,查看运行样本影片数据的应用程序。
图 8:计算车流量的计算机视觉应用程序已置入生产环境中
现在就完成了!我已经为各位介绍连接至边缘的实体系统、建立部署,以及将人工智能应用程序推送至该边缘服务器的端到端过程。在不到一个小时的时间内,此试用版之内容已从未联机的远程系统,变成一个完全托管、安全的远程边缘环境。
Fleet Command 是一种功能强大的工具,可以简化管理边缘运算基础设施的作业,且不影响安全性、灵活性或规模。若想要了解 Fleet Command 是否是适用于管理边缘端人工智能基础设施的工具,请报名使用 NVIDIALaunchPad 试用版。
(报名链接:https://www.nvidia.cn/data-center/products/fleet-command/trial/)
更多关于 Fleet Command
使用 NVIDIA Fleet Command 在边缘部署和管理应用程序