霍金留给人类最后警告：人工智能可能毁灭人类，那是否需要担心自动驾驶？

3月14日，知名物理学家史蒂芬·霍金去世，享年76岁。一直致力于探索宇宙奥秘的霍金，也曾对科学和人类发展做出多个预言，其对人工智能的担心便是最重要的预言之一。在生命的最后几年，霍金针对人工智能发表多次演讲，并和特斯拉创始人马斯克等数十位科学家、企业家及相关投资者一道签署了题为《应优先研究强大而有益的人工智能》的公开信。在去年北京的全球移动互联网大会上，霍金指出“我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。我不得不说，是好是坏我们仍不确定。但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。”

❖ 智能网联汽车为什么需要人工智能 ❖

智能网联汽车通过替代人的操作，最终实现驾驶过程的“安全、高效、舒适、节能”，为取代驾驶员，汽车必须具备感知、决策、执行三大基础功能模块。感知是指汽车通过车载传感器、V2X等途径收集周围环境信息；决策是指对感知层收集的信息进行处理，正确识别周围环境、车辆位置、车辆状态等信息，并对接下来环境将发生的情况进行预测，最终完成对车辆精确的控制和规划，也是人工智能在汽车领域真正发挥价值的部分。执行是指完成对汽车方向、速度等的操控。

无人驾驶汽车在上路前需要充分验证其安全性，不是99%的安全，而是99.9999%级别的安全，这就要求汽车能够对各类特殊环境进行感知、识别及决策控制。考虑到汽车在行驶过程中需要面临的各种复杂路况，驾驶环境具有极强的不确定性、不可重复性和不可预测性，单纯采用传统的控制策略难以获得满意的控制效果。

人工智能与传统控制策略不同，以模仿人脑神经结构的方式，通过机器学习来完成识别和决策，而不依赖于事先定义的规则。人工智能的应用，为智能汽车解决各种模糊的、不可预测的情况提供了可能，实现驾驶安全性从99%到99.9999%的飞跃。

❖ 人工智能在智能汽车上的应用 ❖

环境识别

智能网联汽车的感知信息主要来自摄像头、激光雷达、毫米波雷达、V2X等，信息收集后如何进行识别和建模是对汽车智能的最重要考验。从著名的ImageNet挑战赛就可以看到人工智能在信息处理和识别方面的巨大潜力。

▲图像识别正确率不断进步

正是基于在人工智能领域的天然优势，Google、百度、Nvidia、Facebook等ICT企业才大举进军无人驾驶产业。目前，ICT企业已经与OEM厂商形成智能网联汽车研发两大阵营，两者在竞争与合作中，共同推进行业进步。

决策控制与云端控制

在实现各种交通场景识别的基础上，为了实现真正的无人驾驶，智能网联汽车还需要能够对场景做出决定和反应，并且要具有比人类更高的精度和敏捷性。2004年美国DARPA挑战赛，15支队伍都没完成比赛任务，比赛结果也证明了，采用以指令为基础的逻辑程序，在非结构化环境下非常容易崩溃。2005年的第二届比赛，斯坦福大学Stanley团队获得冠军，该团队采用机器学习的方式，证明了人工智能在无人驾驶领域的应用潜力。

▲2005年Stanley车队改装的大众途锐

目前汽车人工智能控制系统，需要由人类通过路测、仿真等方式进行训练，但随着智能汽车数量增加和车联网及云控平台的普及，智能汽车在行驶过程中可以同时完成数据采集，车辆把数据上传到云控平台，其他车辆也能利用这些数据完成学习，一旦系统规模达到某个临界点，智能汽车水平将实现飞跃式增长。

这种云平台支撑的学习方式，将帮助每一辆智能汽车熟悉世界每个角落的交通情况，其驾驶水平将能够超过人类司机。同时，云控平台可以承担起智慧交通大脑的职责，通过对所有智能汽车的监控，实时了解城市交通情况，实现整体规划和引导、车辆编队行驶等，进一步提高城市交通运行安全性和效率，达到人、车、路的和谐统一。

❖ 是否需要对汽车人工智能担心 ❖

人工智能分为弱人工智能、强人工智能和超级人工智能。弱人工智能是利用现有智能化技术，来改善我们经济社会发展所需要的一些技术条件和发展功能。强人工智能阶段是非常接近于人的智能，需要脑科学的突破，国际上普遍认为要到2050年前后才能实现。超级人工智能是脑科学和类脑智能有极大发展后，人工智能所形成的超强智能系统。

大多数对于人工智能的忧虑，来自于对强人工智能，甚至是超人工智能的忧虑。不过这两者都很难达到。目前人类对大脑如何工作的认知才达到3%左右，没有对人脑的充分认识，强人工智能就难以取得突破。

智能汽车仍属于弱人工智能的应用，虽然在图像识别、汽车驾驶等特定领域超过人类，但不会发展出智慧，更不会出现霍金所担心的技术爆炸甚至人工智能取代人类的局面，从这个角度看，智能汽车是安全的。

但需要注意的是，汽车人工智能有可能会被入侵，就像速度与激情电影中的场景，通过后台控制将智能汽车转变为僵尸车，造成全社会的瘫痪。因此，相比于人工智能安全性本身，我们更要关注的是智能汽车和云控平台的数据和网络安全。相比于汽车，人类可能才是更加危险的一个。

▲速度与激情8中汽车被黑客攻击后的场景