未来科学大奖科学委员会委员李飞飞：如何让AI更好地关怀人类

3月7日，未来科学大奖科学委员会委员，著名AI科学家、斯坦福大学教授李飞飞在《纽约时报》网站发表了题为“How to Make A.I. That's Good for people ”（如何让AI更加以人为本？）的文章。文章中，她表达了对AI发展的兴奋与担忧，并提出“AI以人为本，造福人类”发展道路。

同时，这篇文章也对“技术研究者是否应该对其产生的社会后果负责任”的巨大争议产生了有趣的呼应和回答：无论我们的技术自动化到什么程度，它对世界的影响，无论好坏，始终是我们的责任。

十年前人工智能还仅仅限于学术圈，如今已经疯狂增长。从硅谷到北京的科技公司都押注人工智能，风投为研发投入数十亿资金，创业公司如雨后春笋。如果我们的时代是下一次工业革命，那么正如很多人所说，AI绝对是其动力之一。而且，随着大数据的发展，神经网络算法和计算机硬件的快速进步，划时代的时刻来到了：AI已经从学术研究化身为引领制造业、医疗保健、运输、零售业等众多行业的弄潮儿。

然而，李飞飞也分享了自己的担心，她认为这股热潮让我们忽视了AI对社会的消极影响。除了它的名字，这个技术没有任何“人工”的成分——它是由人类制造的，旨在表现得像人类，旨在影响人类。所以如果我们希望AI在未来的世界中发挥积极的作用，它必须以“关怀人类”为指导。我将这种方法称为“以人为本的AI”。它包含三个目标，旨在帮助负责任地开发机器智能。

李飞飞倡导“AI民主化”

首先，AI需要更多地反映我们智能的深度。以人类视觉的丰富感知为例，它是如此复杂、深层次，并且能在明确地觉知前景和灵敏地捕获背景中取得自然平衡。相比之下，机器感知仍然非常狭窄。

李飞飞认为，有时候这种差异微不足道，在她的实验室里，图像字幕算法可以识别出“骑马的人”，而完全没有注意到两个都是铜像。同样的算法用来识别彩虹之下草原之上的斑马时差异更明显。虽然识别和描述实现了技术上的正确性，但完全没有审美意识，没有任何人类可以自然感受到的活力或深度。

这听起来有点吹毛求疵，但是这也指出了我们人类感知超越机器算法的一个主要方面。如果我们不能洞察人类体验中这些“模糊”的维度，又如何期待机器能预测我们的需求，何谈为人类的福祉做贡献？

要让AI对人类思维的全方位更敏感不是一件容易的事。这需要计算机科学之外其它领域的专业知识，这意味着程序员必须与其他领域的专家合作。

这种合作代表着回归，而非背离我们这个领域的起源，年轻AI学生们可能会惊讶于今天深度学习算法原理，起源于 David Hubbard和Torsten Wiesel发现的猫视觉皮层中神经元的层次结构对刺激的反应机制。

同样，包含数百万张训练图片的ImageNet，帮助发展了计算机视觉。这个项目，是基于认知科学家和语言学家George Miller在1995年创建的WordNet数据集。WordNet旨在组织英语的语义概念。

重新连接AI与认知科学、心理学甚至社会学，将给人工智能一个更加强大的发展基础。而且我们可以期待这样发展出来的技术，会让合作和交流更加自然，从而实现以人为本的第二个目标：强化人类，而不是取代人类。

想象一下AI在手术中的作用。它的目标不是把整个过程完全自动化，相反，智能软件和专用硬件的结合可以帮助外科医生专注于自己的优势——如灵活性和适应性——而让机器从事更加常规性的工作， 以避免人类容易发生的失误、疲劳和被干扰。

或者考虑老人护理的情景。机器人可能并不是老人看护的最佳人选，但智能感应器在帮助人类护理员方面前景很好。通过自动监测药物剂量和自动核对安全检查清单，人类护理员可以将更多的精力放在建设与被护理者之间的关系上。

这些都是自动化取代那些重复的、容易出错的甚至是危险工作的例子。而剩下的创造性的，需要智力和情感的工作，由人类来完成仍然是最适合的。

然而，没有任何聪明才智会完全消除工作流失的威胁。解决这个问题是以人为本的AI的第三个目标：确保这项技术的每一步发展都关注其对人类的影响。

今天对工作流失的焦虑只是一个开始。其他问题还包括弱势群体中机器学习从业人数的偏倚，AI对数据的高需求与保护个人隐私之间的关系，以及全球智能竞赛的地缘政治影响。

充分面对这些挑战要求各大机构的共同付出。大学的独特定位是通过跨学科项目、课程和研讨会来促进计算机科学与传统上不相关的学科，如社会科学甚至人文科学之间的联系。

各国政府可以作出更大的努力，鼓励计算机科学教育，特别是在AI中代表性不足的年轻女孩、少数种族和其他群体。公司应该将积极投资智能算法与伦理道德结合，兼顾抱负与责任。

李飞飞创建AI4ALL女高中生夏令营，得到梅琳达·盖茨投资

没有哪项技术比AI更能反映它的创造者。实际上，虽然有人认为机器没有价值观，但事实是：机器的价值观是其创造者的价值观。AI以人为本的方法意味着这些机器不是人类的竞争对手，而是保证我们福祉的伙伴。

无论我们的技术自动化到什么程度，它对世界的影响——无论好坏——始终是我们的责任。

李飞飞

美国斯坦福大学计算机科学系终身教授、人工智能实验室主任，谷歌云人工智能和机器学习首席科学家，未来科学大奖科学委员会委员

https://www.nytimes.com/2018/03/07/opinion/artificial-intelligence-human.html

转自：大数据文摘| BigDataDigest编译：姜范波