AI时代：算法上天，道德入地

1

随着AI热的兴起，算法这个原本专属于计算机行业的词汇也开始频繁出现在公众眼里。仔细一看，算法和算力这些词颇有神秘感。算法本来的定义是计算机专业领域用来解决问题的方法和思路。这个词汇和大众的认知有很遥远的距离。但是AI开始介入到我们每个人的日常的时候，我们也开始被算法和模型管理了。

算法界大神，编程的艺术系列书的作者，斯坦福大学教授，图灵机获得者Knuth说过，算法+数据结构+编程语言=计算机科学。这差不多说明了算法对计算机领域的重要性。当然，经典意义上的算法，和今天在AI时代大家讨论的算法以及算法工程师，其实是有不同的。但是作为吃瓜群众来说，这种不同知道和不知道都无所谓。

在我们不经意的这几年里，算法开始占据我们的方方面面。比如说，你每天阅读的文章，都是经过算法精心推荐的。你的衣食住行的信息，只要是坐落在智能手机的APP里的那些东西，背后都有一个算法的幽灵。可以这样说，人类个体的生活方方面面正在被算法接管。

这种接管是好是坏呢？有人担心人工智能会毁灭人类，有人觉得人工智能带给人类的是更美好的未来。我想技术可能没有正确错误之说，但是使用技术的人类就不好说了

2

博弈论上有一个非常著名的群体实验。其中的一个版本大致是这样的。一群人进场，每个人交100块钱报名费来玩一个游戏。游戏的规则是，每个人可以任意从0到100里面选一个数。大家都不知道对方选了什么。等到主持人把所有的人的数字都收上来之后，会根据大家选的数字取一个平均值。在现场所有的人里面，选的那个数字最接近平均值2/3的人将赢取所有的报名费。如果有不止一个人，大家平分奖金。

这个游戏非常的有意思。因为大家都知道如果所有人随机选的话，那么平均值大约在50，而平均值的2/3大约在33左右。所以如果自诩聪明的话，肯定会选33。更聪明的人会再想想，既然大家都可能选33，所以整体平均值肯定比50更低，所以更聪明的人会选择更低的数字。

这个实验曾经在美国各大高校做过很多次。得出来的结论有两条：

实验对象的智商越高，最后的平均值越低

实验如果重复多次，平均值总是会越来越低。

这个实验用来研究很多群体性的活动，尤其是有相互反馈的活动，有很大的参考意义。

3

因为身在国外，对国内的很多信息都比较落伍。大概两个多月前，在朋友的推荐下，我下载了著名的某某某某新闻端。这个APP号称可以个性化的推荐最适合我的新闻。我想也许这样的方式既可以了解国内的动态，也可以透过这个APP了解我是一个什么样的人。

最初打开APP的时候，我看到的吓一跳。感情人咬狗现在都不是新闻了。又感情自己是一个非常低俗的人。但是毕竟我是学计算机的。我知道任何算法要能够有效的推荐，都需要数据。而我现在第一次登陆，是白板一个。我肚子里的蛔虫也无法给我推荐什么，何况某某某某。

所以说某某某某推荐的实际上是当前整个人群里面，或者根据我个人信息的某个细分人群里面的平均值。这就有意思了。原来大家其实都挺低俗的。呵呵呵呵。

4

我们讲到过那个著名的博弈论的实验。那么我们是不是可以认为某某某某的推荐系统，也是一种群体活动。我们是不是可以进一步认为，这个群体活动如果重复多少次以后，其目标函数会向某个方向收敛。

那个博弈论游戏，如果我们把获奖的人改成平均值的1.5倍那么，最后平均值会越来越高。如果我们说平均值获奖的话，这个游戏理论上来讲，重复多少次都和重复一次结果是一样的。这样一来，给予参与游戏的人的奖励函数的指向性就非常的重要了。

那么如果从整个世界范围来看的话，这些年来人类物质文明是极大丰富了的。AI的到来更是让人成为衣来张口饭来伸手的二足哺乳动物。你想，前些年要阅读新闻，还得去门户网站搜索引擎那主动的搜，现在只需要静静等待被某某某某喂食，这难道不是极大的丰富吗？

但是我们也不可否认，人类整体道德水准在下降。比如我们伟大的祖国，可能20年前的人不太能够想象20年后的今天。到底是什么造成了道德的下降，是一个很复杂的问题。但是从评价函数来看，做什么样的事情可以获得奖励，那么这样的群体活动重复多次以后，整个社会就往某个方面倾斜了。

5

所以我们只剩下最后一个问题，到底算法主导下的群体活动，带给我们的，是一个道德体系飙升的评价函数，还是一个道德落地的评价函数。这个问题，我们先不谈原因。起码从结果来看是很明显。要不为什么我打开某某某某的时候，看到的是这样的景象呢？

至于原因，其实我想原因也很简单。因为所有掌握了算法和算力的人工智能主导者，都是公司，都是希望并且渴望大把赚钱的。我们不能够指望他们做雷锋。所以他们的奖励机制，最主要的一点肯定是希望用了他们的服务的人能够尽可能多的留在他们的圈子里。最理想的状态应该是一天24小时一年365天不离开。

而让人类能够存留下来的激励机制，最有效的肯定不是高尚的道德，更多的还是满足人类的需求和欲望。至于后者，既容易赚钱又行之有效。何乐而不为？所以，我们可以看到某某某某之类的，新闻越来越猎奇越来越人咬狗，其营收和市值则不断的飚升。

我的结论是AI时代，算法上天，道德入地。但愿我错了。