新电车难题：用算法来分配社会悲剧

自动驾驶汽车是最接近大规模商用的人工智能应用。无论中国，还是美国，多家公司已经上路实测，不止一家宣布要在一两年内推出自动出租车。这就带来了一个新电车难题:

行人横穿马路，刹车来不及，如果不转向，会撞死行人；如果转向，乘客会死于翻车。自动驾驶汽车应该作何选择？

功利主义:一般来说，对社会而言，救多个人比救一个人更有效用，救人比救动物更有效用。研究者发现，效用主义深入人心，绝大多数人支持用效用主义来给自动汽车编制算法。但是绝大多数人不敢买，不想买。

康德式道德律令:它认为人是目的不是手段，一个人等于全人类，那更是让人工智能无从抉择。

第一个摆脱困境的思路来自人工智能专家。他们认为既然解决不了这个问题，那就消灭它。

谷歌的自动驾驶工程师说，道德算法是假问题。自动汽车能高速处理速度、距离、路况、天气等信息，用激光雷达和各种传感器提前感知，提前计算出最合理方案，使那些难以抉择的危险情境根本就没有机会发生。

第二个思路是寻找与困境并存的策略。人类古往今来一直在做这件事。

电车难题、人工智能的道德算法，本质上都是把悲剧分配给谁的问题。在理论上不存在满足各种公平正义要求的正解，但实践中则随时随地都在分配，一刻也没有因为不够公平而停止过，问题只在于它是如何分配的。

今日思考:

电车难题是无解的，百年来各种道德思想流派竞相抢答，没有一个公认的正解。

所以我认为道德算法是一个假问题。在自动驾驶汽车将要大规模应用时，讨论这个话题没有特别大的意义。

第一，电车难题一直都存在，但是我们的电车也一直存在着，并没有因为不可解的问题而拒绝新的交通方式的发展。电车如此，火车如此，汽车如此，自动驾驶车也会如此，不会因为是人和人工智能而有本质的不同。

第二，我们眼下遇到的问题，是着眼于目前的发展阶层的，随着技术的发展，问题确实可能不会存在了。正如谷歌工程师所说，自动驾驶汽车能处理各种复杂信息，要远远大于人类思维带宽。

人类难以抉择，在它看来根本就不是问题，只是在处理某种数学问题。AlphaGo Zero便采用了新的“强化学习的算法”，抛弃人类经验”和“自我训练”。不能以人类的思维方式去理解人工智能。

第三，分配悲剧的问题，是经济学上公平分配的问题。我们很难定义究竟什么是公平，集体所有制、私有制、全员所有制、政府所有制下的公平分配方式都是不同的。社会是复杂的，我们没有办法做到让每一种公平都实现，这是不可能的。

无人驾驶汽车将要上路，电车难题也会一直存在。