好消息，人类：AI现在仍然需要我们

上周我订购了Lyft家的服务时，我感受到了AI的威力和局限性。一位新的司机拉我到路边，但忘记告诉Lyft“大脑”我还在车里。我们开车离开，但驾驶员的系统很快响起警报。

“你不在这里，”司机困惑地说。“我已经被分配了一个新的乘客。”

由于我总是订购友好的“Lyft Line”，最多同时另外有两名乘客一同订购，所以我并不太感到困扰。直到我低头看着我的手机，它说我实际上并不在车里。司机抱歉，但说他什么都做不了。“我必须按照为这位新乘客制定的路线跟他走一趟。”

我从Lyft出来，另一个困惑的乘客进来了。

这里是有趣的地方（恕我直言）。我立即质疑Lyft的5美元罚款，因为我还“没有准备好Lyft Line”，系统就向司机下令载另一位乘客。然后，我几乎可以“看到”Lyft系统如何通过它的AI“思维过程”来处理我的案例的。

首先，它会把我作为一个历史的驾车者（优秀：总是准时，没有付款的信用问题）。然后（我假设），通过查看我获得的乘坐次数（频率）以及收入增加情况来确定我的“得分”。这将给它一个基准“模型”（我参与Lyft服务）和独特的风险评估“分数”来处理我帐户中的任何问题。

投诉过程由AI处理得相当顺利 - 直到我对信用提出异议并选择让人接管。这一切都结束了。他们可以获得与AI相同的“分数”，因此代表在仔细审查过程中没有任何延迟。但那是因为Lyft在其AI系统中建立了一个“人在环路”。

对我而言的教训是，开发基于AI和机器学习的系统的公司需要承认，它们不是绝对可靠的，并且需要通过人为干预保持其“可教”性。

算法决定生活

为什么这很重要？这些算法越来越多地决定了我们在生活中将获得什么样的待遇和条件，从信誉到健康，汽车和人寿保险。

最近我参加过几次“通过算法更好的生活”研讨会，但很少有人能够超越“偏见是坏的”和“必须完成的事情”这两个思维定势。简而言之，我们需要训练AI的能力，但是如何训练？

我给密歇根大学的计算机科学教授Jason Mars博士打了个电话。他目前正担任该大学Clarity实验室的主任，并且是CIinc的联合创始人兼首席执行官，这是一家面向金融行业的会话式AI初创公司。

“在这个AI时代面临的最大挑战之一是让大众能够运用和训练只有世界顶级计算机科学专家一直在使用的机器学习模型，”Mars博士说。“在Clinc，我们发明了一类新的培训平台来解决这个问题。”

Clinc的平台被称为Spotlight， “用户可以在没有计算机科学或人工智能背景的情况下训练和再培训这个星球上最好的AI模型，”Mars博士说。

实质上，Clinc构建了一个伪装成对话式AI机器人的前端工具。通过自然语言处理，它可以让客户调查和改变他们的财务模式。

“这是一个艰难的科学问题，”但在这个领域的进步意味着“用户可以创建管理和观察他们的财务账户和支出模式的新功能，”他说。

观察AI

1月份，我坐在加州大学洛杉矶分校的地下室里，看到一个名为TEVI的人工智能“思考”。从人类投入的内容中推断出“意义”，从而得到人造“大脑”的观点是非常了不起的。于是我见到了TEVI的创始人Ray Christian，他是Textpert的创始人和首席执行官，并问他如何“训练”TEVI。

“AI模型受概念漂移的影响，”Christian解释说。“这意味着需要对模型进行再培训，以考虑从最初训练模型'漂移'的新数据。每次包括TEVI在内的AI模型都要重新培训时，您可能会争辩说，用户已重新校准了模型。”

然而，正如他指出的那样：“偷看AI黑箱以查看它的基本原理是一个更困难的命题。尖端研究正在试验掩盖某些神经网络层，以便隔离变量并理解模型如何感知某些功能，但在我们完全理解幕布背后的情况之前可能还有一段时间。“

改变机器学习方法

同样在加州大学洛杉矶分校的是计算机科学副教授和软件工程专家Miryung Kim博士，他建议“目前的人工智能（AI）和机器学习（ML）技术没有充分平民化。

她说：“构建复杂的AI和ML系统需要计算机科学方面的深厚专业知识以及广泛的编程技巧，以便在各种机器推理和学习技术方面处于相当低的抽象水平。” “它还需要对模型选择，数据清理，特征选择和参数调整进行大量的试验和错误探索。”

她认为，计算机科学研究界必须重新考虑软件开发工具，例如复杂的基于AI和ML的系统的调试，测试和验证工具。

根据Affectiva创始人兼首席执行官Rana el Kaliouby博士的说法，建立高效，高质量的AI始于精心设计的数据收集系统。

“首先深入了解您设计的AI的具体用例，然后专注于收集大量代表这些用例的真实世界的数据，这对于确保算法在真实的世界的准确性至关重要，“她说。

“例如，当建立一个司机昏昏欲睡探测器时，你需要很多人在车轮后面昏昏欲睡的例子，我们认为把被剥夺的人安置在公路上是不道德的，相反，我们收集大量的在野外推动数据“，这样我们就可以自然发生困倦，一旦AI部署完毕，重要的是数据在持续的反馈循环中回到研发部门，以便您可以验证并在必要时重新训练模型。”