依赖智能设备，当心“知识债务”

编者按：《海外头条》是创业邦新推出的海外栏目，服务于广大创业人群，为他们提供专业、有启发性和实用性的海外讯息。栏目通过分享优秀的行业热点文章，帮助创业者打开新思路，洞悉全球市场动向，掌握大企业背后的秘密。创业不应盲目，张开眼睛看世界，才能找到新风景。

不知你是否注意到一种情况，当你使用手机、电脑或其他智能设备时，屏幕上经常会跳出一些“相关的”广告和推荐内容。

奇怪的是，虽然你从未浏览或是搜索过相关的内容，但仔细想想，这些内容往往是你在生活中与比如人谈论过的话题。

这不禁让人怀疑，科技产品已经可以自主监听了吗？

本期推介《大西洋月刊》的一篇文章《人们开始意识到语音助手实际上是如何工作的》（People Are Starting to Realize How Voice Assistants Actually Work），作者Sidney Fussell。

随着人工智能发展，人们的生活发生了变革，尤其是语音技术使得很多怪异行为变得正常化，比如拍手开灯，通过刷脸购物，对着空气大声说话等等。

语音助手大多数时间都是隐形的，因此人们慢慢接受了这样的观点，那就是驱动它们的人工智能就像魔法一样，能在没有人类干预的情况下自动响应命令。

可是，随时待命的智能设备在没有指令的时候又在忙些什么呢？

作者称，上周二彭博社报道，数百家Facebook的承包商监听并转录了用户对Messenger应用程序大声说出的语音片段。他们的工作是确保人工智能生成的文本与音频匹配。

Facebook对此表示，这些音频是匿名的，没有一个用户可被识别。Facebook的一位发言人在发给《大西洋月刊》的电子邮件声明中说，就像苹果和谷歌一样，一个多星期前Facebook也暂停了对音频的人工审核。

考虑到Facebook发生的诸多隐私灾难，以及该公司最近进军家庭摄像头系统的打算，这条新闻实在有些令人反感。

但作者指出，在科技公司中，雇专人查看设备和用户之间的对话片段是家常便饭。

苹果要求承包商转录Siri无意中听到的音频片段，这个月早些时候该项目公开后已经终止；微软的承包商把用户与Skype翻译软件的声音互动记录下来；谷歌的承包商转录了人们对谷歌助理的命令；亚马逊转录了用户对Alexa的要求。

这些公司谁都没有告诉用户他们身边有一个实时转播的话筒。据之前的新闻资料，很多被监听的意外录音涉及非常私密的内容。

作者表示，与其说这是围绕着监听隐私的“丑闻”事件，不如说这是用户群对语音助手实际工作原理知之甚少的结果。

用户只关心智能设备完成了指令任务，但不知道背后有谁在听具体内容。

语音技术所依赖的人工智能产生于一个循环反馈机制：产品性能足够好，从客户那里收集更多的语音数据用于改进服务，随着产品的改进，有更多的人购买，然后收集更多的数据，进一步改进产品。

这个循环需要一个庞大的客户群来维持，那么关键问题是，一旦用户知道即使他们没有触发设备，雇佣工们也会一直听到他们的话，还会有那么多人购买这些产品吗?

Facebook的一位发言人承认，承包商会对那些选择转录语音聊天内容的用户的音频进行转录，但尚不清楚用户是否可以在不通过潜在人工审查的基础上，成功使用语音转录功能。

作者称，由于人工审核的复杂性存在于这个反馈机制中，随着公司提高语音助手水平的需要，用户会被要求更深入地将智能设备融入日常生活，风险只会变得更高。

比如亚马逊拥有的一项专利技术，已经可以评估用户的情绪状态，并相应地调整他们的反应。

其结果是，随着人们对工具的使用率越来越高，科技变得越来越聪明，人们对工具的了解也会越来越少。

作者提及一位哈佛教授最近创造了“知识债务（intellectual debt）”一词，总结了这一现象：人们欣然接受新技术进入自己的生活，出了问题才费心去了解它是如何工作的，基本就是先买后问，积累了太多的知识债务。

过去的两年里，要求保护用户隐私的呼声有所上升。

在科技行业，隐私在某种程度上成了一种讨好用户的营销策略。但仅靠隐私并不能解决知识债务的问题。

对于消费者来说，从一开始就去了解智能设备是如何工作的非常重要。