《AI世界生存指南》

【文章来自浅黑科技，百度安全实验室授权转载】

《AI 世界生存指南》

文 | 史中

吃瓜群众善于想象未来。

虽然大多数时候我们能猜到开头，却猜不到结局。

可以确定的是：不出五年，世界上的人工智能设备肯定会像原子弹爆炸一样地增长。

但这样的未来世界，会好吗？

从前我们想象，未来世界有无数《星战》中那样的 3PO 和 R2-D2，他们天真善良忠诚，像狗子一样是人类的好盆友。

后来我们才发现，世界或许应该更像《机械公敌》里讲的那样，机器人在成为每个家庭贴心管家的同时，会顺便酝酿一场翻天覆地的叛变。

（据说这是2035年的芝加哥，情况可以说是急转直下。。。）

从前我们想象，未来世界的叛变机器人，或许会像《银翼杀手》里的瑞秋那样迷人和难以割舍。

后来我们才发现，未来世界的机器人叛乱，更可能像亚瑟·克拉克和库布里克在《2001漫游太空》里描述的 HAL9000 那样冷酷坚硬。

从前我们想象，人工智能叛乱的领导者会是来自于邪恶的计算机“母体” Matrix。

后来我们才发现，迫在眉睫的人工智能的叛乱很可能会像《速8》里描述的那样，根本就是被充满野心的人类黑客挑起。

中哥能文思如尿崩地想到上面这些镜头，是因为对面坐着一位能“预言未来”的科学家——韦韬。

韦韬是谁？

韦韬曾经在北大学习和任教二十多年。他是中国第一批研究网络安全的科学家，可以说见证了安全行业的变迁。见到他中哥敲开心。

而他现在的身份是：百度首席安全科学家，掌管着全百度最前沿的安全研究方向。

韦韬

未来世界会比现在更安全吗？（答：并不会）

上干货。

恕中哥直言，现在的世界很操蛋。电信诈骗、骚扰电话蛇鼠横行，赛博世界盗匪猖獗。

那未来世界会好一点吗？

韦韬说：如果我们袖手旁观，有人工智能的未来要比现在糟糕一百倍。。。

图片取自《银翼杀手 2049》

为了更清楚，他给我推演了三个场景：

1、智能家居成为“叛军”。

在五年后，你的生活可能会很不一样：

智能电视、智能音箱等等“智能设备”会逐渐代替手机在家里的功能。

你可以直接对中控音箱说，我想看《创造1000001》；你也可以直接在电视屏幕上下单，购买蜡烛皮鞭丁字裤等日用品。

这些电视音箱，和手机一样有“眼睛”有“耳朵”，又天天坐在你家卧室客厅，用脚趾头想也会明白：它们的安全水平，怎么说都得达到（甚至超过）你手机的安全水平吧。。。

然鹅，正好相反。

以现在黑产（黑色产业链的简称，后同）的水平，干掉市面上绝大多数智能音箱和智能电视都不成问题。

他们可以随时监听监视你家里的情况，他们可以看到你家里有什么人，有什么陈设，发生了什么故事，甚至能偷听你明天要去哪里出差，孩子在哪个小学上学。

用这种“有图有真相”的精确信息，配上从黑色产业链里搞到的你的身份信息、银行卡信息。骗子可以趁你出差时，伪装成交警给你打电话，告诉你孩子在上学路上出了事故，然后再伪装成医院说刻不容缓马上要做手术，需要押金，从姓名到地点甚至到孩子的装束都说得丝毫不差，你觉得诈骗成功率会有多高？

当然，如果你不小心在家里的电视、音箱附近表演了激情戏，那犯罪分子就又多了一条赚钱的路子。你从 Github 红人到 Pornhub 红人，也许只需要一晚上。

没错，对于坏人来说，你家的智能家居很“得力”。

此乃隐私安全！

2、智能汽车成为“移动的武器”

五年后，汽车会在室外继承现在手机的一些功能。

按照技术推演，未来五年内大量跑在道路上的车都是无人车。到时候《速8》里那种黑客控制一堆汽车左冲右突的场景就会成为可能。

不过，真实世界中更可能出现的，却是另外一幕：

你乘坐自己的自动驾驶汽车在高速路上行驶，突然屏幕上弹出一条询问：不好意思打扰一哈，我是个黑客，现在我控制了你的汽车，让你的汽车全速沿着高速前进。半小时之内，如果你不给我转两个比特币，我可能会不开心的。。。决定权在你，我可没有逼你哟~~

此乃人身安全！

3、区块链成为“黑客的取款机”。

在人工智能普及的年代，现在用电脑手机把钱转来转去的银行体系会发生巨大的变化。区块链很可能成为支付的重要途径。

区块链炒鸡便捷，但同时也有一个小问题。用韦韬的话说就是“防御没有纵深”。

现在的银行，都是多重对账系统并行，如果你让黑客从工行系统直接把钱偷出来， 他估计得选择狗带。

但是，在区块链系统里，如果黑客发现一个漏洞，是直接可以把区块链当成提款机，任何人都没办法通过其他渠道来校验的。。。

此乃财产安全！

一半是区块链

一半是格尔尼卡

这三个场景，代表了未来世界的“七寸”。

韦韬觉得，历史是会重演的。智能时代的安全问题，在手机普及的这十年中早就发生过一遍了：

2010 年，手机数量爆炸式增长，但整个系统的安全防护却没跟上，导致现在个人信息数以十亿计地泄露。这也是十几年间电信诈骗猖獗到无法收场的重要原因。

如果智能系统普及的过程中，我们还是不认真对待它们的安全防护，那么未来世界的诈骗和勒索，会比今天严重得多。

大神眼中的未来智能世界居然是这个样子的。。。

卧槽。。。。

有点方。。。

肿么办？？？

没事，韦韬老湿可不是那种装完X就跑的人。他信奉一句话：“人生一切难题，技术给你答案。”

过去的三年间，他一直在带领兄弟们“闭关修炼”。为这个人工智能世界暗淡的未来准备了一整套技术方案。

最近，他刚刚把这拯救世界的“武林秘籍”公诸于世。

拯救智能世界的“五字诀”

这拯救未来世界的“武林秘籍”其实只有五个字：

“斗”“阵”“临”“兵”“皆”

韦韬告诉我，它们取自道家的九字真言。

听到这里，中哥心中不禁纳尼。。。我到底采访了一位科学家还是道长？

韦韬告诉我，他取了这些字，有两个原因：

1、每个字真的像一个“符咒”，可以封印住未来世界的一个安全裂缝。

2、其实这样皮一下，能让复杂的安全技术被大家更容易地接受，很开心。

为了科普，果然是不遗余力啊。。。听中哥一句，遇到这样的大神，不妨嫁了。

下面进入长姿势环节：

“斗”

道家对“斗”的解释是：勇猛果敢。翻译成普通话就是：

科普一下：

很多人第一次看到智能音箱，都会天然地觉得，整个人工智能的运算系统都运行在这个音箱里面。

其实不然，音箱相当于一个人的四肢，而它通过互联网联通的云端系统才是它的大脑。

当讨论智能硬件的时候，应该知道我们说的包括两部分：端+云。

所以，一个智能硬件被黑客干掉，也有两种可能的原因。

第一个原因在于：这些硬件本身“身轻体柔易推倒”。

韦韬解释说：

按照惯例，要想让一个系统保持安全，必须在它的“服役期”内总有专人为它研究补丁，然后盯着这些设备升级。

这就大概像个妈，每天叮嘱你穿秋裤带保温杯。

问题来了。

各个品牌型号的音箱电视摄像头，基本每款都对应一个量身定制的系统，有的用 Android，有的用 Linux，有的用 FreeRTOS。。。版本繁多，系统的“碎片化”特别严重。看得人密集恐惧症都要犯了。

终端系统碎片化

就像这样

这样的话，某型号的智能音箱可能总共就卖了1000台，那专门为它研究安全方案的“妈”（也就是安全研究员）天天就为这一个系统服务，估计每月能分到的工资超不过500块，肯定不会有人去做。。。那么，这台硬件的安全水准，就停留在了出厂状态，任人宰割。。。

然鹅，从黑客的角度来看却是另一番景象：不用多，只要有一台设备不安全，就是天赐良机，恨不得从他的主人身上诈骗出来百万千万。

这就好像：

一个牧羊人要看住一百群性格迥异的羊；

而狼叼走任何一个羊群中的任何一只羊就够一个月的伙食。。。

这个矛盾貌似不可调和啊。

不过，韦韬有一个绝妙的解决方案，那就是：

不不不，错了，重来，那就是：

你可能会问：不是刚说了么，每种系统只能开发定制化补丁，怎么又说能用同一种方法给多种系统打补丁？

中哥给你举个栗子吧：

每一个围墙代表一个系统，他们破损的位置相近，但具体形状不尽相同。这种情况下，原来的办法就是，找到水泥把每一个洞都分别堵好。

韦韬和团队想到的办法是：洞不用补，我们做个机器人站在洞旁边，只要有人过来，不管好坏，一棒子打晕。。。。

这样一来，适配的压力就没那么大了。市场上的几十万种系统，只需要几十种“机器人”就能适配搞定了。当然，艺高人胆大，这种玩法背后是要靠开挂级的技术支撑的。

这种技术就被称为“KARMA 热修复”。

其实，中哥第一次见到韦韬是在 2016 年的 BlackHat 上， 当时他就给我讲了这种热修复技术。浅友可以点击中哥 2016 年的文章《Android 系统的安全性有救了？》，里面有详细的技术解释。

事情还没结束。

刚才说了，未来的智能硬件都会连接云端服务器。就像四肢都通过神经联通大脑一样。除了四肢被攻击，大脑也可能被攻击。

于是，智能家居被攻击的第二个原因就是：云端的防护不够骚。

所谓：“端上的漏洞靠修补，云上的进攻靠 WAF”。“云WAF” 是安全研究员专门用来保护云安全的一套系统。

不过，传统的 WAF 最近几年黑客凶猛的攻势下显得有点力不从心，一些脚本小子都可以上网找到一些工具绕过 WAF。于是韦韬带领团队研究了一个新的防护模型 OpenRASP。

举个栗子解释一下：

WAF 就像一个“云计算大厦”的保安，看到形迹可疑的人就拦下来。但是，假如坏人乔装改扮，就可能骗过保安混进去。

OpenRASP 就像“云计算大厦”每个房间里面的保镖。你形迹再可疑我都不管你，但你胆敢动我的抽屉柜子桌子椅子，分分钟抽死你。

有了 KARMA 热修复+OpenRASP 的“KO兄弟”组合，就基本可以掐死很大一部分黑产的进攻套路。

此为“斗”。

-----------------

-----------------

“阵”

对付人工智能世界黑客的第二招叫做“阵”

道家对“阵”的解释是：洞察要害。翻译成普通话就是：

你可能听过神医扁鹊和他老哥的故事。

扁鹊善于医治 ICU 里的患者。每次治病都大动干戈，刀枪剑戟斧钺钩叉都往病人身上招呼，还时常能治好，所以成了千古名医。不过他却说，我家大哥的医术，比我高到不知哪里去。但因为他能在人刚得病还活蹦乱跳的时候，就用简单的艹药治好，所以在乡亲们看来，这一点都不厉害。。。

但不得不说，扁鹊大哥是“早已看穿一切”的那个人。

同样的道理啊：刚才我们说了半天，又是派出“机器人”，又是给漏洞做“热修复”，大动干戈。但是，如果有一种方法，让系统本身就不会产生高危的漏洞，这不就一劳永逸了吗？？

这种方法是有的。

无论是 Android 还是 Linux，现在主流的硬件系统都是用 C语言写成的。这个计算机语言可谓是功勋卓著。但韦韬还是准备吐槽一下它。

作为诞生在上世纪八十年代的“80后”语言，C语言有一个天生的缺陷，那就是“内存不安全”。

啥叫内存不安全呢？

传统 C 语言编出来的系统，就像一个没有交警的城市。人们觉得很自由很方便，但是因为有人不遵守交通规则，经常出现抢道、闯红灯、追尾等等交通事故。

每出现一次交通事故，就意味着一个漏洞产生。

所以，研究员们就用内存安全的语言 Rust 和 Go 重写了很多重要的系统和协议。

这些内存安全的系统，就像是一个有交警的城市。人们虽然受到约束，但是秩序井然，也不会出现交通事故。

有句话叫：苍蝇不叮无缝的蛋。

黑客攻击的本质，是揪住你的微小破绽，然后撕开一道口子干掉你。如果系统本身运行得井井有条，不会出现事故，那么再牛X的黑客，都只能望洋兴叹。

这就是抓住事情本质的效果。

此为“阵”。

-----------------

-----------------

“临”

道家对“临”的解释是“根基稳定”。翻译成普通话就是：

再跟随中哥想一个问题：

一个著名画家把自己的画作放到发廊里展览，他怎么保证发廊不会把这幅画弄丢弄坏，或者根本就是发廊老板用一个赝品偷梁换柱呢？

同样的道理：

在未来世界里，“汽车厂商”就是那个画家，“汽车的云端服务系统”就是那幅画，车厂需要把服务系统部署在云计算里，“云计算厂商”就是画廊。

要知道，在《速8》里，黑客就是通过入侵了汽车云端控制系统，修改了服务器的代码，才拿到了总控权，控制那些“僵尸车”的。这件事情在真实世界很可能发生。

好的，这个问题就变成了：车厂怎么保证跑在云计算上的系统代码不被篡改呢？

答案是：加上一道锁。

具体的操作是这样的：

在云端服务系统外面加把锁，也就是加密，解密的钥匙捏在车厂自己手里。

但仅仅这样粗暴又是不行的。。。加密的代码是连负责运行它的 CPU 都不认识，这肿么办？

我们就把自己的钥匙给 CPU 一份，只有它可以碰到系统的真实代码。

这下，无论是云计算厂商还是攻进云计算厂商的黑客，只要他们攻不破 CPU，那就别想篡改老子的代码。

在韦韬看来，无论世界套路多么深，只要把解密的钥匙攥在自己手里，就是抓住了根基，稳的一比。

此为“临”。

---------------------------

---------------------------

“兵”

道家对“兵”的解释是“行动循章”。翻译成普通话就是：

人有两个弱点：1、不可靠。2、笨。

无论多么靠谱的人，总是免不了神坑队友。浅友们还记得不，前几天广大人民喜闻乐见的“开房信息泄露”事件，就是因为一位程序猿不小心把登录的密码公布在了 GitHub 社区里引起的。

不论多么聪明的人，也总免不了挂一漏万。柯南老湿练了一辈子从诸多资料里发现蛛丝马迹的能力，人工智能数据分析可能分分钟就能比他做得更好。

所以，韦韬觉得：“复杂的世界里，能靠代码和制度解决的问题，就要尽量脱离人。”

就好像在三四线的城市里，人们需要层层托关系，效率比较低；而在一线城市里，人们更多按照制度办事，效率就会大大提高。

所以，韦韬设计了一套安全的计算架构 MesaTEE，让所有的环节都自动衔接，这样就把需要信任的人减到最少。

在这个基础上，再利用人工智能和大数据的方法来分析漏网的安全问题，就基本可以达到万无一失了。（当然，人工智能本身的安全性研究也归为此列，有空中哥专门开贴讲讲。）

此为“兵”

------------------------------

------------------------------

“皆”

道家对“皆”的解释是：善统人心。韦韬把它理解为：

刚才说的无数种应对未来智能世界风险的技术。百度安全的团队把它们统称为 BASS（百度 AI 下一代技术栈）。

通过最近两年的实验，BASS 在技术上已经得到了验证。

接下来，百度安全决定把这一整套技术在“朋友圈”开源，让人工智能设备制造商们都可以免费使用 BASS 技术，并且贡献自己的力量改进它。

为此，百度安全发起了一个名为 OASES 的联盟，联盟内的企业都可以共享开源技术。

此为“皆”。

------------------------------

五字诀说完了，本期最硬的科普部分已经过去~高能警报解除~~

（由于这是一整套对未来智能世界的回应，信息量实在太大，所以中哥把很多细节技术用链接的形式插在了文章里。）

人工智能世界将有一场”代码保卫战“

说句题外话。我之所以这么喜欢和大牛聊天，是因为可以亲耳听到他们描绘未来世界的模样，然后用最风骚的姿势迎接它的到来。

所以前两天，我不顾老妈反对，“强制”给她装了一个智能音箱。

我也知道现在的智能音箱还有点“智障”，但它却无疑是通往未来世界的一个入口，我不希望我的亲人错失它。

包括韦韬在内的诸多大牛，描绘的场景大概是这样：

经过半个世纪的等待，人工智能终于降临我们的生活。它们会栖息在你的音箱里、电视中、所有能联网的家居设备上；它们同样栖息在你的车里、沿途的信号灯上、所有穿梭的飞行器中。

它们也许没有人的形态，但却有让人赞叹的智慧。

它们个个身怀绝技，却又像初生的婴儿一样脆弱。

人工智能硬件体内，都存储着一段段代码组成的“基因”。我们所做的一切努力，本质上都是在保卫这些基因。

代码本身要安全；

代码运行环境要安全；

代码出问题之后要紧急修复；

未来世界的每一组代码基因都相互联结，任何人都不能独善其身。

这些，是韦韬看到的未来，也是他给出的答案。

这个智能世界像一片崭新的大陆，我们的船已经迫近了它的岸边，甚至都无法掉头离开。这片大陆上，有富饶的田野，也有横行的鬼魅。

《枪炮病菌和钢铁》中的故事，也许正在重演。

在靠岸之前，我们还有最后的时间，为这个世界做好准备。与其说这是一场赛跑，毋宁说这是一场战争。

比起铭记，我们更善于忘记。比起团结，我们更善于撕逼。

所以有人说，学了那么多道理，却还是过不好这一生。但愿我们不要“看了那么多科幻电影，却无法留给孩子更美好的未来。”