北邮在线：知识债务，AI自动化思维中的隐性成本

像许多药物一样，专门用于保持头脑清醒的药物莫达非尼在包装里配了一份折叠起来的小小说明书，其中的主要内容包括说明与注意事项、药物分子结构等等。精神药品基本都是这个套路。然而，在说明书的“起效机制(Mechanism

of Action)”部分却有着一行让人有点纠结的小字：“莫达非尼使人头脑清醒效果的机制尚不明确。”

这种情况其实并不罕见。目前已经有许多获得了监管部门批准并得到广泛使用的药物，其起效机制一直没能得到严格证明。在药物发现的过程中，研究人员通常需要反复试验以解开这个谜团。例如，每一年在培养的细胞或动物个体身上测试任意数量的新药物质;而后将其中最好、最安全的配合推向人体实验阶段。在某些情况下，药物的成功能够激发新的后续研究，并最终让我们了解到其起效方式。

但在另一些情况下，难题似乎永远无法解开。阿司匹林早在1897年就被发现，然而直到1995年，人们才真正找到令人信服的药效机理解释。医学中的其它层面也存在着类似的现象：深部脑刺激技术允许治疗人员在患有特定运动障碍(例如帕金森病)的病人脑中植入电极，且已经拥有超过20年的广泛应用背景。有些人甚至认为这项技术可以用于其它目的——包括常规认知增强，但却没人说得清其到底如何起效。

过去，知识债务的解决一直局限于某些能够反复进行实验的领域，特别是医学。但目前的情况正在改变，人工智能——特别是机器学习——这一新兴技术的崛起，正在快速提升我们人类的整体知识水平。

机器学习系统能够从浩如烟海的信息当中提取数据模式，而这些模式将帮助我们为那些较为模糊的开放性问题找到答案。如果利用有猫与无猫标记图片对神经网络模型进行训练，它就能区分猫和其它动物;如果我们利用医疗记录训练模型，其则可尝试预测入院病人的死亡可能性。然而，大多数机器学习系统无法发现其中的因果机制，其更像是一套用于统计相关性的引擎。这些系统无法解释自己为何认为某些患者的死亡率更高，因为它们没有真正意义上的“思维”能力，而仅仅是具备回答问题的能力。当我们将这类系统的见解融入日常生活时，就会发现自己承担的知识债务开始快速增长。

药物发现中的无理论进展向我们证明，在某些情况下，知识债务是一种合理甚至必要的过渡产物。尽管我们还无法从根本上解释起效机制，但这些成果已经挽救了数以百万计人类的生命，并让我们的生活更加美好。很少有人会因为不清楚药效原理而拒绝服用能够拯救生命的药物——甚至在吃阿司匹林的时候，大家也不会为此担忧。

但必须承认，知识债务的积累也有不利因素。当大量原理未知型药物彼此纠缠起来，发现其彼此之间不良作用的测试也开始呈指数级增长。(如果了解药物的起效原理，我们就能够事先预测这些负面相互作用。)

机器学习模型已经愈发普遍，任何人都能够创建起自己的机器学习模型，这也让统计审查工作变得越来越困难。但这仍然非常重要，因为孤立系统虽然能够产生有用的结果，但这些系统本身却不会孤立地存在：当AI技术收集并提取真实世界中的数据时，它们也会产生属于自己的数据，而其中大部分结论都会作为其它系统的输入内容。正如原理未知的药物之间可能发生相互影响一样，债务负担算法也将面对类似的挑战。

另外，即使是最简单的交互也可能引发麻烦。2011年，一位名叫Michael

Eisen的生物学家从他的一名学生身上发现了有趣的案例：一名毫不起眼的旧书《飞翔的奥秘：动物设计中的遗传学(The Making of aFly: The Genetics of AnimalDesign)》在亚马逊网站上最低的开价竟然高达170万美元——还要再加上3.99美元的运费。第二低的价格则迅速攀升至210万美元。这两位卖家都是亚马逊上的老店，店铺里也都有着非常积极的评论。而当Eisen连续几天访问该书的页面时，他发现价格一直在不断增加，且似乎遵循着一定的规律。卖家甲的价格一直是卖家乙价格的99.83%;而第二天，卖家乙的价格则会上调至卖家甲前一天价格的127.059%。Eisen推断，卖家甲肯定是真的拥有这本书，而且打算长期占据亚马逊上最低的价格。与此同时，卖家乙没有这本书，所以把价格定得更高;这样如果有人购买，卖家乙可以当一把“二道贩子”，直接拍下卖家甲的商品。

也许这一切都将成为现实，但其反过来又会引发新的问题。大多数对于人工智能的批评意见，主要集中在它们可能犯下的错误：它会创造或复制偏见;它会犯错误;也可能被用于实现邪恶的目的。但除此之外，我们还有其它值得担心的问题，例如：就算AI做对了，又将意味着什么?