极客故事：这个MIT博士生正在研究如何让算法更公平

来源：MIT

作者：Rachel Gordon

智能观 编译

前段时间，我们分享了知名AI学者、斯坦福高材生李纪为的故事。这位半路出道，从生物科学跨界AI领域的年轻人引发了读者热议，有读者直接感慨“一个被生物耽误的CS大神”。

今天我们分享的还是一个被生物耽误的AI大神的故事，她叫哈里尼·苏雷什( harini Suresh )，是MIT计算机科学与人工智能实验室( CSAIL )的博士生，正在研究一个多层难题:如何创建公平、准确的机器学习算法，还能让用户获得所需的数据？

越来越多的研究和社会现象表明，算法和软件可能具有歧视性。

我们曾在《

加拿大机器学习研究员、哲学研究所博士后：为什么AI需要哲学？是该引起我们重视了

》一文中介绍过，目前算法出现过的重大失误包括：谷歌图片把黑人标记成了大猩猩、聊天机器人发表过纳粹言论、就连自动肥皂器都貌似有种族偏见等。

在国内，不少人也意识到了算法歧视问题，并展开疯狂吐槽。

比如，因为是女性，又喜欢玩游戏，网页上就充满了后宫和换装手游广告。事实上，姑娘关注的明明是单机和独立游戏话题。

然而，这些AI工具的性质比较模糊，目前很难实施具体的法规约束它们。明确这些“决策助手”的现有法律、道德和哲学含义，同时保证用户获得答案和信息，是一项复杂的挑战。

苏雷什在MIT约翰·古塔格（John Guttag）教授的数据驱动推理小组中研究自动化系统的社会意义，该小组利用机器学习和计算机视觉来改善医学、金融和体育领域。在本次采访中，苏雷什聊了她的研究动机、进入MIT的原因，以及如何教学生深度学习。

Q：为什么要来MIT?

A：八年级的时候，我妈妈对一款印度辛辣食物产生了过敏反应，这事儿让我很困惑。我想找出根本原因。幸运的是，我在印第安纳州普渡大学旁边长大，在那里我遇到了一位教授，他教我怎么测试那些关于过敏的假设。从此，我迷上了提问和回答自己的问题，并在整个高中都探索这个领域。

在MIT读本科时，我打算只研究生物学，直到上了一堂计算机科学课。我知道了计算工具可以深刻地影响生物学和医学，因为人类无法像机器那样处理海量数据。

本科快结束时，我开始与彼得·绍洛维茨（Peter Szolovits，计算机科学与工程教授）一起做研究，他的研究方向是利用海量医学数据和机器学习，提出新见解。我攻读了计算机科学硕士学位，现在是一名博士生，研究个性化医学，以及机器学习的社会意义。

Q: 目前的工作是什么?

A：我正在研究如何使机器学习算法更容易理解，以及负责任地使用。在机器学习中，我们通常使用历史数据，训练模型来检测数据中的模式，并做出新的预测。

如果数据有特殊偏见，如“妇女往往接受较少的疼痛治疗”，那么模型也会了解这一点。即使数据没有偏见，但量太少，预测结果也会变得很糟。把这样的模型送进医院(或任何现实中的系统)，那它对所有人都不公平，这是个问题。

我正在创建一种算法，可以公平而有效地利用数据，包括检测数据中的偏见或代表性不足问题，以及找出机器学习使用过程中，可以减轻偏见的方法。

与此同时，我还在研究预测模型，以改善患者的护理过程。

Q：你认为你的研究领域在未来十年会带来什么影响？

A：机器学习无处不在。公司会把这些算法放进产品里，不管它们是否公平。除了让人们方便使用工具，我们还要对这一进程负责，因此，对数据的预测要以社会可以接受的方式进行。

Q：最喜欢CSAIL哪一点？

A：当你寻求帮助时，无论技术细节问题、高难度问题还是一般生活建议，即使需要很长时间，这里的人都会真心愿意提供支持，和你讨论问题，帮你找到解决方案。

Q：工作中面临的最大挑战是什么？

A：一旦想到机器学习的问题会进入现实世界中的应用，而我们的工作最终会交付给真实的人，就会产生很多法律、伦理和哲学方面的考虑。

“公平”的定义多种多样，重要的是，不要把研究归结为一个简单的公式，因为它远不止于此。在思考工作如何与这些大框架相适应的同时，还要解决计算机科学问题，使其可行，这无疑是一个挑战。

Q：大多数人了解你后，最惊讶的是什么？

A：我喜欢创造性写作，在来MIT之前，我一直以为自己会成为一名作家。我真的很喜欢艺术和创造力，不久前还在自己的房间里画了一幅壁画。我还经常在MIT的陶艺工作室里待上几小时。此外，我喜欢制作食谱、拍照。

Q：如果能告诉过去的自己一件事，你会说什么？

A：如果你把时间花在某件事上，而它对你的论文没有直接贡献，不要认为它是浪费时间的事儿。接受自己在学习过程中没有弄懂一些问题，并且在掉头尝试其他新事物时，不感到内疚。

如果你想做别的，最好早点去做。看起来后果很严重的事儿，比如，上了一节附加课或者稍微晚一点毕业，实际上过后回头想想，并不是什么事儿，很多人都会这么做。老实说，未来的我可能也需要这个建议！

Q：你在MIT还参与了什么项目？

A：在 2017年独立活动期，我组织了一个叫《深度学习导论》的课程。机器学习往往被认为是一项非常困难、只限于专家的工作，它吓跑了很多人，并创造了同质化严重的 “专家群体”。

我想创建一个低投入的介绍机器学习领域的课程，这可能有助于初学者入门。在制定课程决策时，我和其他组织者把无障碍和包容性放在首位。用容易理解的方式交流复杂的想法是一个挑战，却非常有趣。

http://news.mit.edu/2018/building-ai-systems-that-make-fair-decisions-harini-suresh-0424

—完—

亲爱的朋友：

优秀的人，通常都是多才多艺爱好广泛的。

读完这篇文章，你看到了什么？最大的感触是什么？

安！

智能观 一米

2018-5-5 于北京中关村

想知道AI加教育领域有哪些最新研究成果？

想要AI领域更多的干货？

想了解更多专家的“智能观”？

请在对话界面点击“找找看”，去获取你想要的内容吧。

声明：

编译文章旨在帮助读者了解行业新思想、新观点及新动态，为原作者观点，不代表智能观观点。

转载智能观原创文章，请联系

智能观小艾（微信号：zng2017618）！

关于我们

我们关注AI+教育。致力于提供高附加值的知识，以帮助每一位老师和我们的读者不断学习并提高技能。

我们努力让发表的每一篇文章都具有最佳质量，以满足读者的需求。