谷歌发布Edge TPU芯片和Cloud IoT Edge，将机器学习带到边缘设备

编译：chux

出品：ATYUN订阅号

谷歌为其机器学习框架TensorFlow定制的芯片——TPU正在向边缘设备发展。在旧金山举行的Cloud Next会议上，谷歌宣布推出Edge TPU和Cloud IoT Edge。

Edge TPU

Edge TPU是一种专为工业制造和物联网设备量身定制的架构。

Edge TPU与加速谷歌数据中心算法的芯片不太相似，那些TPU是在5月份的I / O开发者大会上宣布的第三代TPU，是液体冷却设计用于插入服务器机架。它们已在内部为Google相册，Google Cloud Vision API调用和Google搜索结果等产品提供支持。

相比之下，尺寸约为一美分硬币的四分之一大小的Edge TPU可以离线和在本地运行计算，对传统的微控制器和传感器进行补充。

它们不训练机器学习模型，而是使用TensorFlow的轻量级低成本版本进行推理（预测），这比完整堆栈框架更节能。

也就是说，两个TPU相当于从同一块布料上切割下来的，它们是专用集成电路（ASIC），针对特定工作负载进行了优化的可编程芯片。这使得它们在执行诸如从数据集（在云TPU的情况下）中训练机器学习模型以及在设备上执行这些模型（Edge TPU的功能）等任务时非常高效。

谷歌还构建了一个开发套件，由Edge TPU，NXP芯片和Wi-Fi模块组成。开发套件将在10月对开发者开放。

谷歌表示已与Arm，Harting，Hitachi Vantara，Nexcom，诺基亚和恩智浦等制造商合作，将这些套件推向市场。

LG最初部署Edge TPU的合作伙伴之一就是在生产线上的检测设备中使用它们。LG的CNS集团首席技术官Shingyoon Hyun表示，这些芯片有助于在液晶电视面板生产过程中每秒检查200多张玻璃图像，准确度达到99.9％。

Cloud IoT Edge

Cloud IoT Edge是一种将Google Cloud强大的AI功能扩展到网关和连接设备的软件堆栈。你可以在云中构建和训练ML模型，然后通过Edge TPU硬件加速器的功能在Cloud IoT Edge设备上运行这些模型。

Cloud IoT Edge使物联网应用更智能，更安全，更可靠。它允许你在Edge TPU或基于GPU和CPU的加速器上执行在Google Cloud中训练的ML模型。Cloud IoT Edge可以在Android Things或基于Linux OS的设备上运行，其关键组件包括：

具有至少一个CPU的网关类设备的运行时，可以从边缘数据本地存储，转换，处理和派生智能，同时与云IoT平台的其余部分无缝互操作。

Edge IoT Core运行时更安全地将边缘设备连接到云，支持软件和固件更新，并通过Cloud IoT Core管理数据交换。

基于TensorFlow Lite的Edge ML运行时使用预先训练的模型执行本地ML推理，显着减少延迟并增加边缘设备的多功能性。由于Edge ML运行时与TensorFlow Lite接口，因此它可以在网关类设备中的CPU，GPU或Edge TPU上执行ML推理，或者在终端设备（如摄像头）中执行ML推理。

除Edge TPU外，Google还推出了一系列新的G Suite和Google Cloud功能，包括基于AI的语法工具，增强型文档搜索，FIDO密钥和新的AutoML服务。