z
(图片来源:One Stop Systems官网)
盖世汽车讯 在许多AI应用中,将大量数据传输回远程数据中心是不切实际的。据外媒报道,One Stop Systems公司推出了高性能计算技术应用AI on the Fly,能使整个AI工作流驻留在数据源边缘(edge at the data source),实现高速数据捕获。
AI on the Fly将整个AI工作流计算和存储资源放于数据源边缘,而不是数据中心。这一新的AI范式适用于自动驾驶汽车、预测个性化医疗、战场指挥与控制以及工业自动化等多个领域。这些解决方案的共同要素是高数据率采集、高速低延迟存储,以及高效高性能AI训练与推理计算。这些要素与内存映射PCI Express系统无缝连接,并按需进行互连和自定义,从而满足“现场”安装的特定环境要求。这些系统的前端是高速数据采集技术,基于不同应用,传感器阵列会生成大量数据。在自动驾驶车辆中,数据通过视频和激光雷达传感器阵列生成。
尽管应用数据速率根据部署的传感器或传感器阵列而变化,但是数据摄取子系统的基本要求是支持高速数据速率、不允许丢失数据、不对传感器数据流施加流控制。许多AI on the Fly的本地数据速率可能非常高,可高达100 Gbps或以上,需要专门的PCIe数据捕获硬件。作为捕获过程的一部分,数据通常是实时处理的,以便在移动到存储设备之前以可用的形式进行格式化。捕获硬件可以采用PCIe FPGAs、视频捕获、帧捕获器或智能NICs的形式,执行一系列功能,包括标记、编码、排序、模拟到数字转换、过滤、时间戳和通道同步。采集前端数据速率对存储子系统的性能要求很高,因此需要使用直接附加PCIe的NVMe SSD存储设备。这些系统的存储空间需要能够扩展到10或100TB,额外的存储子系统需求包括高可用性/冗余、安全性和可移动存储介质支持。
One Stop Systems最近宣布与一家大型国际网络运输公司合作,在其由150辆汽车组成的自动驾驶开发车队中部署AI on the Fly组件。该车队用于收集开发和测试AI算法所需数据,这些算法最终将部署在数千辆商用车中。在该用例中,AI on the Fly数据摄取系统与无数车内视频、雷达和激光雷达传感器连接,并通过冗余的50gbps以太网连接,与存储子系统聚合。然后,存储子系统直接连接到多GPU机器学习训练和推理计算引擎。整个系统部署在车辆后备箱中。
领取专属 10元无门槛券
私享最新 技术干货