近日,美国加州大学洛杉矶分校放弃采用速度慢、能耗高的传统电子硬件设备,利用光波实现几乎零能耗、零延迟的深度学习系统。他们提出了一种全新的全光学深度学习框架:衍射深度神经网络。
背景
时下,在无人驾驶、语音识别、科学研究等诸多领域,深度学习起到了越来越重要的作用。作为近年来发展迅速的机器学习方法之一,深度学习采用人工神经网络模仿人脑学习过程,数字化地学习数据,对其进行抽象处理,并执行高级任务,例如分析图像、声音、文本。
然而,现有的机器学习系统的实现需要依靠高性能的电子硬件:CPU或者GPU。特别是对于深度学习来说,因为需要执行大量的并行计算,所以GPU成为了更广泛的选择。不过由于运算量非常巨大,GPU难免产生巨大的能耗。除能耗外,运算速度也是限制深度学习性能的一个重要瓶颈。
创新
近日,美国加州大学洛杉矶分校(UCLA )电气与计算机工程师组成的科研团队另辟蹊径,放弃采用耗能巨大的GPU设备,将目光投向光波。
他们提出一种全光学的深度学习框架:衍射深度神经网络(Diffractive Deep Neural Network,D2NN)。该架构采用基于深度学习算法的无源衍射层(passive diffractive layers)设计,经误差反向传播法(error back-propagation method)训练后,能够以接近光速的速度,实现多种复杂的机器学习功能。
相关研究成果发表于7月26日的《科学(Science )》期刊。
技术
日常生活中,我们见到大量的“智能”摄像头在识别物体。例如,当你存钱时,有些自动柜员机可以“读出”你手写的美元金额。再例如,某些互联网搜索引擎,能将读取的照片与数据库中的其他相似照片进行匹配。但是,这些系统都需要依靠技术设备来识别物体。首先,它们利用摄像头或光学传感器“看”物体,然后将“看”到的物体处理成数据,最后用计算机程序来搞清楚它是什么。
可是,这种处理的速度往往不够快,以至于无法满足高速识别的应用需求。然而,UCLA 开发的“衍射深度神经网络”系统,有望超越这些设备。它利用物体自身反射的光线识别物体,识别耗时非常短,就像计算机简单“看”一下物体那么快。该设备无需复杂的计算机程序,就可以处理物体图像,并在光学传感器获取图像数据后判断出物体是什么。这种设备只是利用了光线的衍射,所以运行时没有能量损耗。
这种新设备能加快数据密集型任务的执行速度。这些数据密集型任务通常包括物体的分类与识别。例如,无人驾驶汽车采用这种新设备,能比现有技术更快地响应停车标志。一旦停车标志的发出光线照射到汽车上,汽车就可以立即“读取”标志,而不必“等待”汽车的摄像头拍摄物体图像,再采用计算机硬件来搞清楚物体是什么。这项技术背后的发明,还可用于透视成像与医学,例如通过疾病标志来分类几百万种细胞。
创造这种人工神经网络的过程开始于计算机仿真设计。然后,研究人员用3D打印创造出极薄的、8平方厘米的聚合物晶圆。每个晶圆表面都很平整,这样有助于从不同方向上衍射来自物体的光线。对于人眼来说,这些衍射层看上去都是不透明的,但是实验中采用的亚毫米波段的太赫兹光线可以穿透它们。每一层都由成千上万的人工神经元组成,在这个案例中,它是指光线可穿越的微小像素。
(图片来源:UCLA)
一组像素化的衍射层共同形成了一个“光学网络”,来自物体的光线通过它们时会受到影响。因为来自物体的光线被大部分朝着分配给那种物体的单个像素衍射,所以这个网络可以识别物体。
然后,当物体发出的光线穿过设备时,研究人员采用计算机学习每个物体所产生的衍射光线图案,训练网络去识别前方的物体。这种“训练”采用了人工智能的一个分支技术,也称为深度学习。在深度学习中,随着图像的出现,机器通过重复计算和时间推移展开“学习”。
UCLA 电气与计算机工程系教授、该研究的首席研究员 Aydogan Ozcan 表示:“直观上,这就像一个非常复杂的玻璃和镜子组成的迷宫。光线进入衍射网络,并在迷宫中四处反射,直到走出迷宫。通过大部分光线从哪儿走出迷宫,系统可以判断出物体是什么。”
在实验中,研究人员展示了设备可精准地识别手写数字和衣服,两者都是人工智能研究中普遍用到的测试用例。首先,他们将图像放置在太赫兹光源前,让设备通过光学衍射“看”到这些图像。
(图片来源:UCLA)
他们将设备训练成像镜头一样工作,可以将放置在光学网络前面的物体图像投射到它的另一侧,就像普通的相机镜头一样,但采用的是人工智能而不是物理方法。
由于组件可通过3D打印制造,所以这种人工神经网络可以通过更大、更多的衍射层来制造,从而带来具有亿万神经元的设备。这些更大型的设备可同时识别更多的物体,或展开更复杂的数据分析,并且这些组件可以低成本地制造。UCLA团队制造的设备能以低于50美元的成本进行再生产。
Ozcan 表示,虽然这项研究采用的是太赫兹频率的光线,但是未来也有望制造出可见光、近红外或者其他频率的光线。这种网络也可以通过光刻或者其他印刷技术制造。
价值
总结一下,这种衍射深度神经网络设备可通过3D打印制造,以接近光速的速度,执行传统计算机神经网络所能实现的各种复杂功能,并应用于全光学图像分析、特征检测和物体分类,还可以实现新型相机设计,制造出完成深度学习任务的光学元件。
Ozcan 表示:“从根本上说,这项研究为采用基于人工智能的无源器件,迅速地分析数据、图像和分类物体,打开了新的机遇。这种光学人工神经网络设备,直观地模仿了人脑处理信息的方式。经过扩展,它能够带来新型摄像头设计和独特的光学组件,无源地应用于医疗技术、机器人、安全或者任何需要图像和视频数据的应用。”
关键字
机器学习、深度学习、神经网络、人工智能、无人驾驶
参考资料
【1】https://samueli.ucla.edu/ucla-engineers-develop-artificial-intelligence-device-that-identifies-objects-at-the-speed-of-light/
【2】http://science.sciencemag.org/content/early/2018/07/25/science.aat8084
领取专属 10元无门槛券
私享最新 技术干货