IBM沈晓卫：担心人工智能对人类的威胁就像担心火星上车牌限号

编者按：

12月16日，“2017新华网三亚思客年会”在海南召开。IBM中国研究院院长沈晓卫作关于人工智能的主旨演讲。

沈晓卫认为，从纯粹的技术角度来看，不必对人工智能存在过多疑虑。因为有些疑虑就好像是在今天就担心人类移民到火星之后，会不会在火星上进行车牌限号一样——我觉得将来可能有这样的需求，但是现在去谈还稍微有点过早。现在需要讨论如何增强它的职能，如何把它应用在行业当中，去解决实际的问题。

但在解决实际问题的过程中还需要注意人工智能时代的安全与伦理问题，因为那些人工智能系统可能有意或者无意地被不安全或者存有瑕疵的数据训练过，就像一个小孩子读书时，可能被不合适的教材教导过，所以它可能产生一些这样那样的问题。

以下为沈晓卫演讲全文：

今天我们处在一个大数据和人工智能的时代，可以说，人工智能代表了IT的未来。人工智能今天的成功和它未来可能引发的成功，不仅仅局限于一场比赛的胜利或者一个特别的解决方案，而在于它是不是能够重新定义我们的生活，或是对这个世界产生完全不同的影响。

首先，从技术创新的角度，如何看待未来人工智能的创新战略呢?在可预见的将来，整个人工智能的创新或IT行业的创新都集中在以下四个方面。

第一，在过去的几十年中，人工智能核心技术的创新(包括算法、模型等)取得了很多成功，但接下来还需要更多的努力。

第二，我们需要构建全新的、支撑未来人工智能应用的计算能力。过去30年，计算能力提升了100万倍，而今后我们还能不能保持这样的发展趋势和速度，也是非常重要的研究方向。

第三，如何发展人工智能与IT及相关行业相互融合的重大技术，如区块链技术、互联网技术、云计算等。

第四，如何真正的把人工智能运用到行业当中，真正解决行业中的问题。

我们首先看一下人工智能最核心的技术接下来如何发展。现在人工智能发展更多是在于大数据的发展，今天谈到的很多人工智能的解决方案或者人工智能技术的突破，更多的是面向消费者市场的技术突破。其实我们知道，可以说80%的数据是在防火墙之后的企业的数据。把人工智能应用在企业的发展、转变或革新上的时候，我们会看到很多数据的质量并没有那么好，可能没有那么多的数据，或者更确切地说，是没有那么多可标识的数据，对深度学习算法或是其他模型进行更好的训练。所以人工智能接下来非常重要的一点就是：如何能够在仅有小量数据的情况下构建新的解决方案。

另外，今天的人工智能，特别是深度学习，很多时候并没有办法就我们的决策给出一个清晰的解释，如何解决或改善这个问题，也是相关技术发展中另一个非常重要的趋势。再加上今天的人工智能可能比较欠缺一些常识性的东西，如何把已有的技术学习、深度技术的学习和其他技术做结合，这些都是人工智能技术发展接下来需要探讨的问题。

人工智能之所以有这么快速的发展，非常重要的一点是计算能力的极大提高。我们看到，在物理层面，半导体技术的发展可能会面临摩尔定律的限制。今天看到的这些技术，无论是FPGA还是GPO，都能帮助人工智能系统进行加速。接下来我们还看到一些技术，比如做近似计算的时候，整个加速比是非常不一样的感觉;比如图像识别，如果有几个像素的误差不会影响大局;比如模拟计算，如何利用物理设备或者物理器件本身的一些特质用模拟信号进行计算，而不是数字信号的计算等。今天的计算机还是传统的计算机架构，想要更好地进行逻辑运算，就要考虑如何构建新一代的、能够模拟人脑运算的系统，那样不仅能实现逻辑思维，也能很好地实现形象思维。

今天的人工智能都是大数据背景下的人工智能，我们在谈到人工智能可能给我们带来的挑战时，其中一部分疑虑，从纯粹的技术角度来看，应该说是不必过于担心的。因为有些疑虑就好像是在今天就担心人类移民到火星之后，会不会在火星上进行车牌限号一样——我觉得将来可能有这样的需求，但是现在去谈还稍微有点过早。今天讨论人工智能，很大程度上是需要讨论如何增强它的职能，如何把它应用在行业当中，去解决实际的问题。

人工智能有这样几个方面构建了今天的成功，也构建了人工智能接下来发展所面临的挑战：大数据的存在，人工智能的算法、模型、计算力等，还有非常重要的一点就是应用场景。人工智能要向前发展，它需要不断地获得商业上的成功，而商业成功非常重要的一点就是如何利用今天已有的计算力、已有的人工智能算法和技术来选择合适的商业场景。

我们如何把人工智能带到行业中，解决行业的问题?比如环境问题、教育问题、医疗问题、金融问题、制造业问题等。把人工智能应用到行业中去，大概会带来两大方面的改变：第一，它提高了行业的效率和安全性等等，会使一些工作被机械替代，与此同时产生另一些新的工作机会;第二，它能通过不断学习来提供一些基于知识的专业建议，未来可能会出现人工智能律师或助手、人工智能金融师或者助手等。

在人类过去几百年的发展中，每一次新的工具的出现，无论是蒸汽机还是电子计算机，都会带来改变;而今天的人工智能又给我们带来一个全新的改变，就是基于知识而产生的能力，它的一部分会在可预见的将来被其所取代。

把人工智能应用到行业中，我们其实可以想象在不远的将来能够发生的事情，因为这里提到的很多改变其实今天已经开始发生。比如今天的人工智能可以通过声频信号的检测自动发现机器故障，可以通过图像处理来更好地保障整个生产线的产品质量，也可以自动解读法律文档，看它是否合规或者有特别值得关注的地方。我们也可以想象，把人机对话系统运用到金融行业、保险行业中，能够更好地与客户进行沟通，这是今天已经发生的事情。

当然在博弈领域，包括象棋、围棋等，如果获胜规则是非常清晰的，那今天的人工智能系统基本上都可以达到人类所不能达到的高度。我们可以设想，未来几年可能会出现这样的情况——人工智能对一场体育比赛进行解说，还能理解整个比赛;当我们给出一个辩论的题目，人工智能会自动地找到大量的信息并对其进行分析，看哪些信息可以支撑或反驳一个观点，从而进行辩论，也就是人工智能辩手或辩论师;人工智能可能进入法律行业，成为一个律师的助手，可以将相关的案例提供给律师，让其更好地工作。

在谈到人工智能和行业的应用时，如果让我来选择一个行业的话，我会特别谈到医疗行业。一方面是因为医疗行业本身对生活的质量和国民经济的影响都非常大，另一方面我认为人工智能技术发展到今天，可能已经到了对医疗行业做一些改变的时刻。

比如今天我们可以做到什么呢?谈到医疗影像，今天的人工智能系统在很多医疗领域已经达到或者超过了医生的水平。胶囊机器人在进行肠胃检查时一般会产生两到三万张的医疗影像，今天的机器可以对这些图片进行自动解读，其中可能只有很少的一部分图片需要跟人类医生一起分析和判断。对于一些慢性疾病，可以构建人工智能系统，为社区医生提供诊疗帮助，这样当医生对病人进行诊断的时候，人工智能系统就会告诉他，根据医疗指南和大数据中学到的知识，哪些是可能的情况，哪些药物应该在这种情况下得到推荐，包括不同药物可能会对这个病人产生不同的疗效，因为以前有相应的数据，从这些数据中就可以进行分析。

此外还有大家非常关注的肿瘤诊断，当然这是一个非常困难的问题，人工智能在这方面也取得了一定的进展，我们与国外的一些医院进行合作探讨时发现，有些肿瘤病，人工智能系统给出的建议和医院的专家系统给出的建议，吻合度已经超过了90%。

物联网是我们这个时代很大的题目，人工智能时代会对物联网产生什么影响?这里很重要的一点就是物联网已经超过了我们想象的概念。在原本的概念中，物联网就是把数据进行采集、传输以及进行简单的分析;而在人工智能时代，对于这个物理世界，数据分析不但需要进行很好地感知，还需要进行更好的学习，要具有自我学习能力。

这里面不但要分析结构化的数据，还有很多非结构化的数据;不但要有简单的数据分析，还可能要有物理的模型进入，最后构建一个具有物理模型理解能力的感知系统，让我们对物理世界能进行更好的分析、管理和优化。

最后谈一谈人工智能时代的安全与伦理。数据安全包括系统安全一直是IT时代非常重要的问题，但在人工智能时代，它可能会有完全不一样的感觉。

比如今天我们构建一个人工智能的解决方案，更多的还是从算法、数据进行训练;但在不久之后，当人工智能真正进入产业化的时候，可能并不是每一个解决方案都需要耗费大量的精力和数据来重新学习，而是可以从市场上拿到一个成型的模型作为基础，那个时候如何保证这些模型和算法是安全的、符合伦理的?因为那些人工智能系统可能有意或者无意地被不安全或者存有瑕疵的数据训练过，就像一个小孩子读书时，可能被不合适的教材教导过，所以它可能产生一些这样那样的问题，那么如何预防和解决呢?无论是从技术还是其它角度来看，如何检测人工智能时代算法、模型、解决方案的安全瑕疵和伦理瑕疵，都是需要关注的问题。

谈到人工智能，大家对于未来都充满了憧憬、向往和兴奋，当然还有不安和怀疑。这使我想到了60多年前计算机奠基人图灵的一句话：“对于未来我们只能看到前方非常近的一段距离，但是即使如此，我们已经看到那里有太多的事情需要我们去完成。” (沈晓卫系IBM中国研究院院长)

原标题：《沈晓卫：人工智能会否成功，在于它能不能重新定义生活》

第一财经获授权转载自“新华网思客”微信公众号

责编：黄宾