巴菲特认为AI堪比原子弹，果真如此吗？

日前，在伯克希尔·哈撒韦公司2023年的年度股东大会上，对于当下大火的AI，巴菲特表示担忧并将这项技术的兴起与原子弹的发明相提并论。

别说巴菲特了，就连图灵奖得主杰弗里·辛顿（Geoffrey Hinton）为了可以“自由地”提醒大家对AI保持警惕，把在谷歌已经持续十年之久的岗位都辞去了。说句俗话，这可是舍弃了高额的薪水。

和辛顿一起获得图灵奖的还有杨立昆，后者也在Meta这样的业界公司工作。面临同样的AI发展现状，辛顿为了可以自由地评论选择了辞职。

不过，在对于AI的观点上，杨立昆和辛顿本身就有所不同。在《麻省理工科技评论》的采访中，杨立昆表示：“毫无疑问，在所有人类（可以展现）聪明的领域，机器将在未来变得比人类更聪明。这是一个关于何时和如何的问题，而不是一个关于是否的问题。我相信，智能机器将为人类带来新的复兴，一个新的启蒙时代，我完全不同意机器将支配人类的观点，更不用说摧毁人类，仅仅是因为它们更聪明（是不足够的）。即使在人类物种中，我们中最聪明的人也不是最具有支配力的人，而最具支配力的人绝对不是最聪明的人，我们在政治和商业领域有无数这样的例子。”

当年和杨立昆以及辛顿同样获得图灵奖的——加拿大蒙特利尔大学教授、蒙特利尔学习算法研究所科学主任约书亚·本吉奥（Yoshua Bengio），对于杰弗里的观点似乎有一定的认同。约书亚说：“我听到有人诋毁这些恐惧，但我没有看到任何坚实的论据能让我相信不存在杰夫认为的那种规模的风险。但是，恐惧只有在促使我们采取行动时才是有用的。”他说，过度的恐惧可能会使人瘫痪，所以我们应该尝试将辩论保持在理性的水平上。

关于这个问题，国内也有相关人士做过讨论。2023年4月，在360发布类GPT产品的发布会上，周鸿祎说：“人类身小力薄，从来都不是靠体能和智能的进化站在食物链顶端的，我们靠的是不断发明和使用工具。GPT就是这个时代最伟大的工具。”

无论如何，杰弗里的担心的确有一定道理，说到这里就得提一下他的姑妈寒春。寒春这个名字，是他姑妈来中国之后起的汉语名字。寒春早年是一名美国核物理学家，在二战之后逐渐认为自己所参与的核竞争，会给人类带来威胁。那时，她被共产主义所吸引，于是来到了中国。在这里她成为了一名致力于奶牛农业的高级技工。同样是在中国，寒春认识了同为美国人的阳早。阳早这一名字，也是后来起的汉语名字。结婚以后，他俩一起研究奶牛农业，直到去世之前一直在中国生活。

巧合也好、追随也罢，不能不说杰弗里的做法确实和姑妈有些相似。但是，他姑妈的担心并没有成为现实。当然，杰弗里并未选择完全离开AI领域，他自己也告诉媒体尽管自己年纪大了，但还是会努力学习新技术。没准将来杰弗里对于AI的观点还会发生改变。

也就是说，担心AI的不只是巴菲特一个人，这种担心贯穿人类整个历史长河里。甚至可以说，恐惧是人类的天然本性之一。

但是，和动物界不同的是，人类更懂得克制和约束，以让自己朝更好的方向发展。于是就有了法律，有了各种监管部门。

就以OpenAI最近推出的隐私功能为例，尽管它自己说该功能的推出，并非因为欧盟的施压。但是，很明显欧盟的《通用数据保护条例》，的确约束了一些公司的逾矩行为，进而在一定程度上保护了不少用户的权益。

目前AI的表现过于惊人，也确实让人感到吃惊和害怕。但是，不要忘了是人类造出了AI。作为AI的“造物主”，人类当然可以选择最有利于人类生存的方案。正如罗翔所说，人类是万物之灵，因此他也认为AI未必会威胁到人类。

只不过，人类也是分群体的，不同群体代表着不同的利益。如何避免利益博弈所导致的损失，可能也是当下面临的问题之一。

作者：吕底娅，脚踪佳美，作光作盐。