人工智能时代心与芯如何平衡？

面对人工智能时代的到来，知名宇宙物理学家和计算机大佬曾向人类发出警告和担忧。

物理学家霍金表示：「计算机具备的人工智能将会在未来100年中的某个时点超越人类的智能。当那种情形发生时，我们必须确保计算机是站在人类这边的。我们的未来，是在日益崛起的科技力量与我们试图掌控它们之间的一场竞赛。」他警告称，发明人工智能可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为人类文明划上句号。

比尔·盖茨在全世界推广了计算机视窗操作系统，让个人计算机进入了家庭，比尔·盖茨本人通常以技术进步先行者的形象示人，但是他对未来人工智能的发展看法却并不盲目积极。比尔·盖茨在展望计算机和互联网的未来时认为，未来的人工智能机遇与风险并存。

我们不妨大胆设想一下未来人工智能可能实现的场景：

机甲战士替代人类赴汤蹈火，成为一名真正的「战士」。人类是否愿意把自己的性命安全交给机器人，让机器人来进行武装执法？这是一个涉及伦理的问题。

机器警察可以做开罚单、查信息等琐碎的工作，但像刑侦、治安巡逻等工作，需要现场裁判和对人性的推理，机器人能否胜任？面对一位年迈体弱且贫困的体力劳动者轻微犯了交通违章，机器警察能否网开一面，少开一张罚单？面对挡在救护车前面的那辆轿车，机器交警能否让其驶过红灯，以便救护车顺利通过？

那些冷冰冰的机器人，能否具备人性的「良知」和人类的变通能力？

机器人律师和法官很难基于社会公义、法律量刑和人情世故而综合做出判断，以取得微妙平衡的结果。法律不是一块死板，不是可以计算、生成的代码，法庭上的人性博弈更是机器人无法触及的领域。

在实际情况中，每一起案件中都有一个独一无二的犯罪嫌疑人（是一个有人格的人），一个有原生家庭、有故事经历、有独特性格的人。人类，做为司法裁判人的最大特点在于，我们有同情心，有人性的直觉和对善举的感动。

内观己心 外察世界

我们内心深处希望人工智能带给人类社会什么样的改变呢？

人类发展人工智能的最初目标，是给人类生活带来便利、高效、实用的好处。现在人工智能的技术研发和资金使用，是在这个「初心」正确的发展方向吗？

人类需要反思，我们对人工智能发展的控制力和塑造力还处在正确的道路中吗？

在人类社会中，当我们对一个人做了什么样的事情，对方会做出什么样的反应往往是可以预测的，然而当今最智能的机器却不仅仅是这样。人工智能在围棋对弈中击败世界最顶尖的棋手，人们无法推测它会走出什么样的绝招。

这种不可预测性同样可见于「脸谱」上的两个聊天机器人：它们因为发展出自己的语言而被管理人员关闭了。

这件事引起了人工智能界的不安，研究人员希望让人工智能以人类能够理解的方式解释其思维和判断的过程，这样才能决定人们能否信任和应用这些系统。

随着人工智能迈入自主系统的时代，我们把更多决策工作交给人工智能。技术专家们开始敦促人们更深入地理解「输入」和「输出」之间的神秘地带。

我们为什么需要掌握数据输入是如何变成机器输出的？有一个关乎人类生死存亡的理由，那就是「奇点」。奇点是指当机器的智能超过人类创造者的智力，人工智能失控的那个临界点。

可以想象，机器有可能获得自做主张地塑造和控制未来的能力。

发生这样的剧变，不需要任何恶的蓄意，只需要当人工智能程序具备越来越强烈的学习倾向和相应的自主行动能力，当它们开始做一些我们再也无法理解、预测或控制的事情时，人类却对它们缺乏方向性的监督。目前最先进的机器学习能力已经造就了可以掌控不可预测性的高手，即便只是针对一种任务；倘若大规模、多领域、颠覆性的奇点真的出现了，世界将不能安宁。

启迪多元思维

巴斯大学的一个编程团队提交了一篇论文，透露先进的人工智能就连「设计者仅凭观察来破译他们所研发的机器人的行为也会有困难」。这就是人们常说的人工智能的黑箱操作，我们不知道机器的运行逻辑是什么，并且结果同样不可预测。

巴斯大学的研究员倡导把「机器人透明」列为一项伦理要求：用户应该能够轻易辨识一部机器的意图和能力。比如一辆无人驾驶汽车撞倒一名行人，人们应该能够获得关于该汽车所做决定的记录，以便通过修改代码来根除类似的错误。

其他机器人专家也呼吁在机器人和自动化系统上安装「道德黑匣子」，以增强公众信任，也有助于追究责任，就像飞机上记录飞行数据的黑匣子，能够记录机器失灵前做了哪些决定和行为。

正心正举

人工智能的发展（科学技术）是一把双刃剑。科学技术的不断飞跃，同时需要人类人文素养的不断提高。

人文引领科学，科学彰显人文。

人类需要先「正心」，才能够为未来的人工智能安装「正心」系统，当先进的机器人「意真诚、心纯正，道德完善」，才能够真正成为人类的「好帮手」、「好朋友」，机器人才能够输出「正举」，发挥向上、向前的力量。

拨迷见智

人工智能产业的发展，需要遵循「人道」和「天道」。

「人道」指社会的伦理关系，即尊重人类权利，爱护人的生命，关心人性的道德理念；「天道」，即万物的规则、万物的道理。

开启自在之门

人工智能的发展如果突破了「奇点」，机器的进化速度很可能远远超过人类生物的进化速度，届时人类只能「悲观、失望、仰天长叹」吗？

不，人类是人工智能的创造者，我们需要弥补人工智能产业最缺乏的东西。

人类需要用智慧人文、伦理道德规范人工智能产业的发展，让人工智能始终沿着「促进人类社会美好生活」这个方向发展，即使「奇点」来临，被赋予「人味」「人的天性——对于生命的敬畏」「正心」的机器人，它们的能力越强大，越能为人类社会造福。

Q：人工智能时代最缺乏的是什么？

欢迎留言和大家分享

正心正举已经入驻以下平台