【CXO论坛】深度学习成功的三大法宝；神经拟态芯片和可重构计算芯片为AI硬件加速

新智元报道

编辑：克雷格

【新智元导读】5月15日下午，以“AI赋能——智能科技改变世界”为主题的2018世界智能大会智能科技产业发展CXO论坛在天津空港经济区科大讯飞智汇谷举办。论坛主持人中国科学院科技战略咨询研究院院长潘教峰，科大讯飞副总裁、研究院联席院长李世鹏第一次公开亮相并主持圆桌对话。重磅演讲嘉宾有科大讯飞高级副总裁江涛、中国移动咪咕公司董事长刘昕、Intel中国研究院院长宋继强、小米副总裁崔宝秋等。新智元创始人兼CEO杨静女士作为特邀嘉宾参与圆桌对话，探讨AI如何赋能生活，改变世界。

科大讯飞在天津发力人工智能了。

昨天，2018世界智能大会智能科技产业发展CXO论坛在天津空港经济区科大讯飞智汇谷举办，天津超脑联合实验室、网络综合治理联合研究中心启动仪式和人工智能产业示范区首批落户项目入驻仪式正式启动。

论坛由中国科学院科技战略咨询研究院长潘教峰担任主持，天津市人民政府副市长曹小红、天津市滨海新区人民政府区长杨茂荣分别发表致辞。

天津市出台了加快推进智能科技产业发展总体行动计划和智能制造等十大专项行动计划，构建了1+10方案体系，系统谋划大智能战略布局，加快集结大智能产业集群，全面构建大智能产业体系，为推进高质量发展赢得先机。

科大讯飞高级副总裁江涛，科大讯飞副总裁、研究院联席院长李世鹏分别发表主旨发言和主持圆桌对话。中国移动咪咕公司董事长刘昕、英特尔中国研究院院长宋继强、小米人工智能与云平台副总裁崔宝秋做主题演讲。新智元创始人兼CEO杨静女士作为特邀嘉宾与网智天元创始人兼首席战略官莫倩、北京人工智能专利产业创新中心总经理刘翰伦等一同探讨AI如何赋能生活，改变世界。

以下为论坛的精华。

“涟漪效应”是促进深度学习成功的法宝之一；5G的三大场景为AI提供土壤

江涛首先披露了一组数据：在天津，科大讯飞人工智能开放平台开发团队的数量从去年5月份到今年5月份，增长了136%，一年的增长超过了过去五年的总和。

江涛说，人工智能核心技术有2条发展主线，一条是脑科学和神经科学的技术路线，另一条是以DNN为代表的深度学习的技术，或者说基于数理统计的基础路线。

科大讯飞高级副总裁江涛

过去几年，以深度学习为代表的技术路线取得了突飞猛进的进展，除了算法的进步以外，数据规模，数据处理能力不断增加。另外还有一个非常关键的因素，科大讯飞称之为“涟漪效应”。

“涟漪效应”就是从研究到工程到产品到用户以及用户使用的产品形成的数据，反过来帮助研究，这样一个持续闭环的迭代，才是现在基于数理统计、基于统计建模的人工智能最重要的持续推动力，这就是为什么说应用是硬道理，人工智能如果老是讲概念没有实实在在的应用的话，进步就会很慢。

反过来说，通过人工智能示范区，通过人工智能的示范应用上线，让人工智能去为广大的老百姓实实在在的服务，在过程中不断学习行业顶级专家的知识和经验，AI会越来越聪明，越来越好用。

根据国务院的新一代人工智能发展规划，2020年就要实现人工智能总体技术和应用与世界先进水平同步，中国移动也提出2020年正式实现5G的规模性商用的目标。

中国移动咪咕公司董事长刘昕认为，促进人工智能与各产业领域的深度融合和5G发展的重点的方向完全一致。

中国移动咪咕公司董事长刘昕

国际电信联盟为5G定义了三个重要的应用场景，第一个是移动宽带，对应的就是4K和8K的超高清视频以及VR/AR这些大流量的应用；第二个是大规模的机器通信，对应的是物联网这些大连接量的应用场景，这些场景中大量的和AI相关。第三个是高可靠的低时延通信，对应无人驾驶、智能工厂这些典型的低时延应用场景，也是典型的人工智能场景。

“所以为了更好地实现这三大场景，被降低运营成本，5G在网络设计的时候，就探索将AI和5G进行融合，从端到端构建5G的智慧网络架构、智慧运营和智慧的服务体系。”刘昕说，智慧型的网络会给业务带来更大的便捷，而AI会让5G网络提供智能基础设施，并带动其他相关基础设施和相关产业的成熟，进一步为人工智能提供生长和发展的土壤。

异构高效是AI硬件加速的趋势，神经拟态芯片技术和可重构计算芯片技术具有广阔前景

接下来是英特尔中国研究院院长宋继强分享世界人工智能芯片产业发展的热点和展望。

英特尔中国研究院院长宋继强

宋继强首先对AI芯片进行定义和分类。

第一类叫算法加速型芯片，以常用的一些芯片架构为基础，增加对AI算法的加速单元，比如利用CPU、GPU、ASIC和DSP等架构，来加速现有的一些AI的算法。

第二类是自适应智能芯片。这类芯片自身具备更多的灵活性，有能力去调整自己，改变自己，适应新的工作需求，甚至有一些自主学习的能力。比如神经拟态芯片、软件定义可重构芯片等。

如果给这些AI芯片加上几个指标去评估的话，能从不同任务的算法适应性、能效比、部署成本三个指标来评估，有了这些评估指标，可以看到目前明显的趋势是从技术因素主导向经济因素主导转变。

在使用的时候，异构目前是一个很好的解决方法，因为没有某一款芯片可以单独能够把各种应用场景都很好的解决掉。

目前来讲做最好的一个方案，很可能需要去选择多种芯片来组合使用。举个例子，谷歌的TPU的特点是专门针对深度学习的典型应用的加速器，图中黄色的方块就是专门针对8比特或者16比特做的一个大的乘加阵列，有256×256个乘加器，对做DNN这种大规模矩阵运算非常有效，而且还配备了片上24兆的存储。它的好处是可以让这些芯片面积上每一个晶体管都发挥最大的作用。

还有Intel的Movidius Myriad X芯片，它右上角的一个神经计算引擎，也是一个专门为了做深度神经网络，但它也是固定的一些比特数，做加速用的部件，同时还有16路的SHAVE，可以很灵活的去处理其他的一些视觉加速。

对于一个芯片的评价，不能脱离开它的应用场景来去讲。要考虑做什么样的任务、部署的条件、功耗、尺寸、价格等等，不能随便拿两个芯片对比。

宋继强对国内国外的AI芯片从设计阶段、流片测试到小批量试产、量产销售做了个对比。

可以看到，目前能够达到稳定量产销售的基本上都是国际公司。红色的话是GPU架构为基础，蓝色的是FPGA相关的芯片，绿色的都是ASIC，黄色的是DSP。目前的主流是根据具体的业务的需求，做ASIC或者FPGA加速方案。

对于机器学习目前处理的不太好的场景，推理、通过小数据学习，这部分的人工智能加速怎么办？靠什么样的芯片来支撑？

宋继强提出了几种计算新模式，来探索芯片的创新架构。

一种是深度学习，把过程通过深度网络表示出来；另一种是模拟人类大脑的神经拟态计算，让系统可以去自己去学习多种不同的任务，而不是只能学习一种任务，并且还能够去自己去演进、去推理，通过交互强化来适应答案；最后一种是量子计算。

Intel的LOIHI自主加速芯片结构就是很详细的模拟神经元的结构。

左边绿色的是数字的输入，中间是模拟细胞体里边树突的处理过程，最右边蓝色的是它的竹突的输出，中间底下还构建了一个学习的累加过程。如果把这一个小块看作一个神经元的话，用集成电路把它实现，它就是一个神经元的基本电路，实现的是一个神经拟态电路。

此外，还有清华大学研发的Thinker芯片，走的是可重构电路架构路线。有以下几大特点：

• 一个任务有多个等效处理软件；
• 函数化的硬件架构（粗粒度）；
• 适应软件需求，动态选择性改变硬件；
• 切换速度和功耗大幅优于FPGA。

从业界发展的趋势来看，现在还是AI芯片的初级阶段，从确定算法、领域的AI加速芯片向具备更高灵活性、适应性的智能芯片发展是科研发展的必然方向。神经拟态芯片技术和可重构计算芯片技术允许硬件架构和功能随软件变化而变化，实现以高效能比支持多种智能任务，在实现AI功能时具有独到的优势，具备广阔的前景。

对于未来，宋继强提出短期、中期和长期三个发展趋势：

• 短期：以异构计算（多种组合方式）为主来加速各类应用算法的落地（看重能效比、性价比、可靠性）
• 中期：发展自重构、自学习、自适应的芯片来支持算法的演进和类人的自然智能。
• 长期：朝着通用AI芯片的方向发展。

小米的IoT平台有1亿在线的联网设备，今年第二季度开源移动端深度学习框架

小米的AI早已用在方方面面，小米手机上有十多款搜索的产品，背后都是搜索平台部门来支撑的。

小米人工智能与云平台副总裁崔宝秋

崔宝秋说，深度学习让AI火了起来，过去小米的技术路线发展图实际上是从C到B到A（云计算、大数据、人工智能）。小米过去几年打造了强大的云技术团队，从C开始到B，组建了小米的大数据团队，招聘数据科学家。2016年大力投入AI，围绕深度学习打造小米AI团队。AI今天已经成为小米的核心战略，是未来10年20年最重要的战略。

小米在AI上有三大优势：

第一个优势，有很强的硬件优势，小米手机的设计制造能力代表了小米在硬件上的各种优势和水平。小米AI音箱也充分显示了这个优势。

第二个优势，小米有很强的大数据获取能力。

第三个优势，小米的广深的生态链布局，也就是产品线。很多人讲，小米在AI上投入再多都不为多。

下面是小米的AI能力图谱：从基础的大数据、深度学习，到中间的感知、认知层，再到上面的开放平台，对接小米的各个业务与产品，以及生态链的产品。

值得一提的是，小米推出的战略性产品小爱同学。它是一个智能语音交互平台，可以控制很多智能设备。小米希望通过小爱同学控制所有的IoT设备，也就是所谓的智联网。目前小米的IoT平台有1亿在线的联网设备，小爱同学将来可控制的产品会越来越多。小爱同学促进了小米AI领域的全面提升，包括远场增强、分布式拾音、唤醒等等。

从云计算到大数据到AI，开源技术是小米一直拥抱的。在深度学习方面，小米基于TensorFlow、Kubernetes推出了自己的深度学习云服务。从PaaS到SaaS，对小米内部各个业务开放，也对小米生态链企业开放。

另外，小米也准备在今年第二季度开源小米自己的移动端深度学习框架，这个框架已经支持了CPU、DSP、GPU、高通和小米自己的澎湃芯片，支持TensorFlow和Caffe等模型，目标是打造业内最好的移动端深度学习框架。

圆桌对话|杨静：智慧终端的数量代表企业潜力，有核心技术的企业一定是大国重器

接下来进入圆桌对话时间。

圆桌会议主持人：

李世鹏（科大讯飞副总裁、研究院联席院长）

嘉宾：

莫倩（网智天元创始人兼首席战略官）

宋继强（英特尔中国研究院院长）

杨静（新智元创始人兼CEO）

李世鹏：现在就是说很多人一提到人工智能觉得特别神奇，好像人工能智能就是无所不能，对吧？我想问一下各位嘉宾对人工智能的定义是什么样的？然后人工智能到现在为止能够做什么，不能够做什么，将来我们期望做什么？请大家根据自己的经验分享一下。

宋继强：人工智能它从最开始作为一个研究的主题，实际上是希望一个系统或者说是算法能够按照人的这种智能方式来完成交互的任务，包含感知、认知理解和决策、行动多个部分。

美国的一个教授写了一本书，认为人的智能是多元化的，至少有七个维度，包括逻辑智能、计算智能、社交智能、运动智能、空间智能，还有自行智能等。目前来讲我们做的人工智能算法已经搞定了逻辑智能了，人已经算不过机器了。但是空间智能、运动智能，比如说波士顿动力机器人，才刚刚开始可以接近人类，离人还差了很远。而社交智能、自行智能还有可以提高改进的，这也是我们不希望机器人具有的能力，如果它具有了我们就麻烦了。

杨静：关于智能，最近在读一本书叫《生命3.0》，书中提到对智能的一个定义是，在一个复杂系统里的复杂行为，用这种复杂行为去实现一个既定目标的能力。所谓人工智能实际上是说人类现在赋予机器非人的一种能力。

新智元创始人兼CEO杨静

实际上刚才继强也提到，虽然波士顿动力的机器人它现在已经能跑了，他还能做360度后空翻，但说实在的，我们现在看到一位什么机器人现在产业整个还处于一个认知停滞的状态，感知智能往认知智能去发展还存在巨大的鸿沟，机器人达不到这样的认知能力，所以我们现在有一些机器人，只能叫它人工智障，大家也知道在博鳌论坛让机器翻译也出现了一些问题，说明现在的人工智能距离我们想达到的一个理想状态，还有很远的路程要走。

在《生命3.0》里面提到说，生命有三种状态，第一种状态就是生物智能，硬件自己设计不了硬件，只能通过进化来实现这种的智能的迭代；生命的2.0的状态，我们的下一代不需要通过我们的基因去学习，人类就可以通过学习，通过软件，通过我们的文化等社会行为就可以来进行学习。最后是生命3.0的状态，它可以通过我们设计人工智能来实现，它是既可以通过硬件或软件的迭代不断学习，可能这样的一种生命智能的状态是最理想的，但是我们仍然是刚刚起步的状态，我认为还在起跑线上。

李世鹏：感谢各位嘉宾！其实刚才大家讲的人工智能的定义或者展望来讲，我觉得都是太理想了。就是说我这个人是具体做技术的，所以我一直觉得人工智能这一块还真的是远远没达到我们想要哪怕是最初级的一步。

今天人工智能真正是“人工”智能，所谓人工，就是很多人要去标注数据，因为你把标注数据为给了深度学习引擎的话，它才能做事情。那么对这样一个问题，在座的各位嘉宾有没有自己一些看法，怎么样去突破这样的限制？

莫倩：确实是这样，在目前我也比较同意，目前现阶段我们都是还是基于数据，它的搜索组织管理学习我很同意其实，所以刚才说我们网智天元是个大数据智能公司，这里面的突破，我其实我们一直还是在从数据的基础之上形成语义，从语义的基础之上形成情感，从情感的基础之上形成群体的意识和趋势，这样的不断的进行抽象，就是我们公司在这一块尝试。

宋继强：我觉得我一方面是同意世鹏院长讲的，现在的人工智能还大量依赖于很多数据，包括人工的标注，或者说指导，我们称为监督学习。另一方面的话，其实也有一部分探索在考虑怎么通过比较小的数据去增加系统能够去应对的这种场景的模式。

当然这里边无可否认，仍然需要去人去设定一些规则，让它去判断产生出来这东西到底好还是不好，因为一旦脱离规则判断的话，人工智能系统自己也不知道出来这些数据是好还是坏。

另外一种探索就是像我今天也介绍的。靠新一类硬件去支撑，去做类似于像人通过小数据量逐渐去学习，靠持续学习，并且给模型灌输一些知识，这些知识有常识，也有一些领域的知识，这样的话能让它逐渐去形成不同领域的一些等于说是逐渐掌握一些新的技能，而不需要去非要通过很大量的数据才能训练出一个小技能。所以我觉得，这两条线路其实都是研究方面的一些新的尝试。

杨静：我补充一下，我是觉得人工智能有它的局限性，但是人也有自己的局限性。其实我们处理不了大数据，也无法做随时随地的传感。

刚才演讲的中国移动的刘昕，他提到一个MGC概念，机器可以生成内容；小米的崔宝秋也提到说以后会有一个MIoT，阿里提出来的概念是AIOT，实际上包括华为提出来叫万物互联。其实机器传感数据到AI云里面的话，恐怕的确只有云端的服务器、超算能够处理，我们作为人类是无法去生成这么多数据，也没法处理这样多的数据。

我认为可能未来的地球上，可能越来越多的信息、越来越多的数据就是机器生成，机器传输，也是机器来处理的，当然机器还有各种的缺点，所以我觉得无监督学习和深度学习“黑箱”或可解释性问题是AI的一个特别重要的发展方向，这样的一些人工智能未来的发展方向都是我们值得去关注的一个话题。

李世鹏：好，感谢各位。我想今天在座的可能是也有很多产业界的或者是创业公司的同学过来，那么另外一个关于产业这一块，我想请在座的各位嘉宾，就是说你觉得中国现在的所有的人工智能公司里面，不管是大公司小公司，就选一个你觉得最有道理的公司。你认为是哪一个？除了自己的公司。

宋继强：这个问题就是不好直接回答，但是我我可以分享一下我的一些评判指标：如果要在AI这个领域成为一个非常有持久创新能力，并且有盈利能力的公司，它既要有场景，又要有数据获取能力。还要有自营自有的技术，而不是什么都是靠别人的技术。

有场景是非常重要的，因为不管是阿里巴巴也好，百度也好，腾讯也好，或者说京东也好，它都有自己独特的一些场景。是他已经深度的服务了很多客户，比如说阿里巴巴，它的蚂蚁金服就是深深的植根于他服务很多小企业，微型企业的之间的交易。京东它做音箱很有道理，因为他的音箱只是他一个客服的前端，它可以带来很多的销售。百度就把他的一些AI能力植入到现在要大力推的无人驾驶领域里边，都是面向一些场景，他们可以获取数据，然后利用他们的各种AI的能力，比如语音的地图的、社交的、智能分析的。

包括像国内现在新冒起来的原来不是AI领域的公司，但是现在也是像海康威视。海康威视靠的是什么？它有全国遍布的摄像头的网络，数据都在他的手里，所以这些公司都是非常值得看好的。因为AI方面这算是可能成为巨头的公司。

杨静：刚才提到巨头，我觉得可以对标的美国的市值前五名这类的公司，而第一肯定是苹果了，然后第二是亚马逊，现在第三是谷歌。所以我觉得还是刚才逻辑以后你可能也不能说光看用户，因为指的是人类，那么你可能也要看它拥有的智慧终端的数量，因为他有的生产很多大数据，它会形成一个万物互联的一种AI的生态，你得看潜力有多大。

为什么阿里在智能的硬件这方面有特别大的投入，买了一系列的赛道，包括AI芯片赛道、视觉赛道，我觉得阿里在补这一块短板。因为从场景来讲，腾讯肯定是比它要强的，因为他有微信这样非常大的一个生态，所以我认为我持跟继强相同的一点，我觉得看好像海康威、华为这类的，它他有自己的智慧终端、有非常多的生态体系。那么讯飞我认为也是一个特别值得看好的公司，因为它有自己的核心技术，我们在中国的整个的智能化的这样的一个非常大的历史的这种浪潮当中，智能革命的这样的一个颠覆的过程当中我认为有核心技术的企业的一定是我们大国重器，所以我认为上面这些企业都是我非常看好的。

李世鹏：下面一个大家可能是在AI领域比较关注的一个问题，就是AI的安全问题。现在有两种观点，一种是说我要防止AI做一些事情，否则就失去控制；另外一个就是说不要担心，20年之后再去关心这个事情。各位嘉宾谈一谈自己这方面的一些体会。

宋继强：刚才分析的是从一个角度不确定性，我从另外一个角度。因为AI作为一个目前来讲比较先进的科技被提出质疑，但这在历史上不是第一次，就像多年前发明飞机一样，也有质疑就是说要不要发展技术，因为飞机可以被用来运输货物，运输人也可以被用来去投掷炸弹。

实际上对于一个先进的技术，超出人当时的一些想象的这种技术，它都有被用好和用坏的这样一个问题。所以基本上来讲，它做什么事还是由人来决定的。我们目前看到很多公司，如果说把AI用在了不好的地方，实际上最终的罪魁祸首不是技术，还是人，就像我们永远杜绝不了世界上有好人和坏人一样，你也没有办法去确保没有人不把一个好的技术用在坏的方面。所以就是说让AI做好是应该成为一个大家的共识。

从AI本身技术来讲，我们认为它发展的潜力很大，它可以帮助很多行业产生颠覆性的效应，减轻人的负担。那么我们应该去利用它的好处去规范它，有可能会产生副作用的地方，这是我觉得目前来讲比较中肯的观点。

杨静：其实我觉得AI还是一个必须的一个工具，比如说其实我觉得话筒的话还得有很多回响，所以其实李总说话我听不太清楚，现在得看讯飞听见才知道他说什么内容，所以我认为AI它是已经是我们依赖的一个智能助理。

另外它当然也有对人类造成威胁的这样的一些方面。举个例子，今天我们报道了很多人在反对谷歌跟军方合作的新闻，但军方如果不用现在的AI的话，它又怎么样让军备飞机无人机才能够智能化？所以其实存在的一个矛盾。

前一段周志华也联名反对韩国一个学术机构涉及军事的项目，刘强东前段时间说几年之内要裁员50%，一半的人都变成机器人。其实这些都是一些伦理的议题，是不是对人类造成威胁？我认为的确是存在这样的威胁，但是目前这个阶段机器自己还是没有目标的，究竟是好是坏，善和恶，背后还是人在控制，但是至于战争究竟是善还是恶，我觉得现在很难判断，而且以后的判断标准究竟是人还是AI我们也不太确认了，所以这的确存在一个伦理迷茫的阶段。

李世鹏：最后，我想替大家讨几个几字箴言，一句话或者几个词儿，描述一下你对人工智能技术的发展的一些展望也好，趋势也好。很简单，就是说今天说大家听了这几个词，回去琢磨琢磨到底是不是有道理。好吧？

莫倩：就一句话，希望能够用具有情感的人工智能创造智慧美好的生活，谢谢。

宋继强：我希望能够软硬件结合。大力推动人工智能在多个行业的开花结果。

杨静：我的一句话就是万物互联人机融合，让机器智能加上人类的智能，孕育一个万物智能的新宇宙。

大会主持人：感谢各位嘉宾的精彩对话，也感谢各位嘉宾带来的精彩发言和演讲，应当说今天这是一场人工智能行业的高端峰会，正是由于在座所有人的共同参与，才推动了整个行业的不断发展。这也是一次关于未来的精彩对话，我们有理由相信，我们将引领智能时代的发展！这更是一次行动宣言，宣告我们通过智能科技创造美好的生活。最后让我们再次以掌声感谢本次论坛所有的参与者，感谢各位远道而来的嘉宾，感谢组委会的精心组织，感谢工作人员的辛勤付出。今天的CXO论坛到此结束，谢谢大家。