商业领袖请别盲目信任人工智能

译文来源：界面新闻(jiemian.com)

斯坦福商学院科技经济学教授苏珊·埃塞（Susan Athey）表示，说起商业和科技的关系，现在没有比机器学习和人工智能的变革潜力更热门的话题了。

“你在报纸上看到人们谈论着这些具备所谓感知能力的机器人将如何接管世界，”她说。但是去参加学术会议，你会发现技术专家们主要是在探索计算机如何区分猫和狗的图片。

尽管人们对人工智能尖端科学的普遍误解在意料之中，但埃塞表示，在实践中也有很多错误的尝试。在斯坦福商学院一场有关商业数字化变革、名为“加速推动成功的下一阶段”的讨论中，埃塞警告说，决策者可能会——而且往往会，在她的过往经历中——由于误解了机器学习模型能和不能做什么而误入歧途。她还概述了一些风险，这些风险来自在青睐耀眼新技术的同时，忽略了基础原则。

她说：“我见过一些公司让工程师在没有商业人士的参与下做出决定，从而让公司损失了数亿美元。机器学习能解决简单的问题，但它并非真正具备感知能力。面对多种多样的商业问题，它束手无策。”

埃塞表示，机器学习模式的优势在于，可以有效预测能够快速准确作出评估的问题，过程中需要花费一定成本，如区分猫和狗。“机器学习的深度神经网络非常善于在稳定的环境中寻找特定的模式，”她说，“在每个单元都具有大量特性的环境中就能够创造价值，比如分析图像中的所有像素，评论中的文本，或是用户与网站的交互历史，高效检验算法是否合适。”

埃塞说，图像分类是这类简单问题最好的例子，计算机通过分析像素来找到潜在的模式。从最新技术的数据来看，算法区分猫和狗的准确率往往可超过90%。

大量思考 VS 长远思考

虽然机器学习模型擅长大规模处理简单的问题，但它在长远预测方面的用处非常有限。例如，如果你用一种算法去预测10年期贷款或长期投资的效益，你很难在短时间内得到答案，算法的性能也很难迭代提升。如果环境的变化使模型的预测无效，它也需要一定的时间才能发现。

大多数机器学习算法也不擅长假设分析，也就是埃塞所说的“假设...会如何”的问题。比如，如果一家公司改变了其价格，或者它没有进行某种广告宣传，会发生什么情况。对机器学习准确性的盲目信任在下面这个例子中就有可能出差错。

埃塞指出，比如用算法预测基于观测价格的酒店客房入住率，算法会参考历史入住率和价格，并得出正确的结论，即房价高时，酒店客满。不过，如果采用这种预测模型来优化价格，就会得出这样的结论：为了提高酒店客房入住率，你应该提高价格。“这当然是错误的，”埃塞说。“仅仅因为更高的价格与酒店客满相关，并不意味着如果你改变你的价格，就会有更多人来住你这家酒店。”

要想用，得先懂

当然，酒店聘请的任何定价专家都知道，需求曲线不长这样。如果简单地相信，机器学习能应用现成的方式解决所有问题，决策就会出现偏差。埃塞指出，领导层应当确定问题的哪些具体部分可以外包给算法，哪些部分应该由传统的技术来指导。做出这种区分可能是一个真正的挑战，因为大多数人并不真正理解这些黑盒算法里头到底发生了什么。

她说：“如果商业人士没有受过专业教育，不够自信，他们在会议室就难以立足，因为他们很难与构建算法的技术人员辩论。”

“我们具备的专业知识越多，我们对基本理念越有信心，就越有底气说， ‘我不在乎你说什么，现在就只谈基本原则。你说的毫无道理。这是一些基本的（经济）原则，如果你的模型得出的结论与之相悖，那么模型就有问题。’”

弥合算法洞察力和人类专长之间的鸿沟

当然，这一切都没有浇灭埃塞对机器学习和人工智能已带来的影响的兴奋感。事实上，埃塞目前正与斯坦福商学院教授圭多·因本斯（Guido Imbens）和史蒂芬·韦杰（Stefan Wager）共同开展研究，他们的目标是建立专门用于假设分析的机器学习模型，而不是单纯地进行预测，目前已取得了一些可喜的成果。但即便如此，整个假设分析的过程也离不开商业知识的注入。因此，她希望高管能够建立整体思维，不要盲目进行行业和商业模式的数字化转型。

她说：“我们需要商业领袖的参与，因为技术专家并不总能着眼大局。他们并没有发现，自己所优化的算法分析，其实未将所有商业因素考虑在内。”

埃塞也看到了新一代商业领袖参与其中的巨大可能，他们可以弥合算法洞察力和人类专长之间的鸿沟：“随着数字化转型蔓延至整个市场，每家公司都将经历同样的旅程。这些公司都需要有人去构建新的商业体系，开发新的思维模式。”

（翻译：陈畅）

来源：斯坦福商学院洞见

原标题：Susan Athey: Why Business Leaders Shouldn’t Have Blind Faith in AI