“声”入人心，也可能“声”出事端——人工智能技术因何“偏离着陆”？

近日，人工智能领域发生一个“意外”——某人工智能语音助手硬件产品推出新服务，用户输入任意文字，都能由极其逼真的明星声音朗读出来。没想到，这一全新应用却遭遇恶搞，有用户用定制声音来朗读不雅文本，引发热议。还有人担忧，模仿得太像了，这技术会否成为犯罪的利器。

事实上，类似前沿技术落地却“偏离着陆”引起的困惑不少。除了声音问题外，最近当红的换脸app能轻易制作一段几可乱真的“本人”视频，这是否对被换脸双方造成侵权，如何追责，也有争议。

有科学家指出，新技术在改变生活的同时，往往伴随着混乱和破坏。人工智能技术热潮中，如何在社会伦理和法律规范上充分准备，亟待冷思考。

反制技术并非天衣无缝

人工智能领域的研究包括机器人、语言识别、图像识别和专家系统等。“最近十年，随着芯片计算能力的提高、大数据时代的到来，特别是机器学习技术的重大进展，人工智能技术得到飞速发展，并迅速产业化，”上海大学计算机学院智能科学与技术系副主任岳晓冬博士说。

他首先解释语音仿真的声纹技术原理，“现在的技术范畴内，采集一部分声音形成数据集，分析其频调、特征后，人工智能技术可以通过类似渲染的方法，模仿与本人相像的声音发出任意语段。 ”目前在地图导航app、天气预报app等已经较为普及的“明星语音包”，也是采用这一技术。这次在硬件产品上推出让用户自由定制语音内容服务，属于前沿应用的一次新拓展。

其次，很多人不知道的是，在人工智能研发领域，科学家每推进一项技术，对其“反向”研发始终同步进行。打个不恰当的比方，就跟武侠小说里一样，解药毒药同时炼制。伴随人工智能仿真技术的发展，一项名为“自然语言处理”的技术，专门用于识别声音、图像、画面、签名，甚至人脸等是否有异常，是否人工合成。不仅如此，对于一些人工智能技术产生的“机器人”行为，同样可以识别。他透露，一些外卖app上之前存在“机器人”虚假点评的情况，目前已经有了克星。

“不过，这种识别技术准确率没有达到100%，”他坦言，反制技术并非天衣无缝。

技术如何保持对伦理的敬畏

与技术瓶颈同样关键的，是创新产业的伦理环境，包括大众认知及法律法规制定。站在人类科学史维度上，相当一部分发展受限，并非囿于“能不能”，而在于“该不该”。生物学、医学学科中都有先例。在技术领域突破性增长的今天，面对的是相似的难题，要破解或绕行，非一朝一夕可成。

深耕人工智能及虚拟仿真领域的上海医微讯数字科技有限公司，是谷歌眼镜的开发合作伙伴之一。总经理潘耿道出几年前谷歌眼镜被迫转向的幕后故事——2012年，谷歌眼镜作为一款“拓展现实”眼镜横空出世，向世界展示了“增强现实技术”、“解放双手”在日常应用中的可能性，业界对此心潮澎湃。许多人认为，这一前所未有的领先技术将完全取代手机，成为生活配件，推动人类社会进入更加智能化的时代。

然而当产品进入市场，问题浮现：戴着这眼镜，始终有个摄像头对着前方，谈话对象不知道摄像头是否开着，拍了什么，又实时显示着什么信息……这些让戴眼镜者在带有社交属性的场合中受到抗拒，最初购买的用户渐渐不敢戴出门。设计应用场景下的功能性及由此带来的“酷炫感”，被“不安全感”覆盖，变得不那么酷了。而这个问题在前期产业化进程中，没有人意识到。最终，谷歌眼镜宣布产品方向由原来的普通消费者，向专业领域拓展转向，聚焦于工程、通讯、医疗等方面的应用。

“技术领域的伦理道德，是一种约定俗成的社会道德边界，深层次来说也是技术对人性的探究，”潘耿说，任何产品、技术，再先进也无法逆向而行。人工智能技术与人类结合更为紧密，尤其如此。谷歌眼镜忽略的，可能是人们对隐私的重视。拓展开来，对伦理的敬畏，应是在更多人工智能技术“落地开花”不可或缺的，否则可能好心办坏事，甚至受到市场的反噬。从产业界角度出发，早期商业产品设计，就不能自说自话，而需要一定数据量的盲测，充分了解消费者感受，是否自然，是否自在。再以那款语音定制服务为例，如果在推出服务时，内部设置可以规避不当内容的语言规则及“敏感词”库，是否可以让新技术更加喜闻乐见。

伦理和法律，会否拖慢技术脚步？

基于伦理及社会管理需求的法律法规，永远是滞后于技术的，但这种补位不可或缺。岳晓冬博士从微观角度提出人工智能领域，当前在法律上亟待明确的：其一，是数据隐私的责、权、利归属；其二，如果通过人工智能生发技术实施的诈骗等犯罪，其定性及量刑与传统途径犯罪有何区别；其三，人工智能功能实现时可能发生误伤，如人工智能诊疗出现误诊、语音定制影响明星形象等，其中使用者、技术提供者等各家责任如何界定；其四，人工智能技术往往伴随着前期数据采集及学习模型建立等多重环节，这期间多方利益如何划分。

一位同济大学专家说，人工智能不同于其他技术，未来，它将对各行各业带来冲击性的变化，由此形成的是技术与社会管理交织的问题。在人工智能成为科学主流发展方向的大背景下，全球都在尝试回答这道题。韩国学者2015年成立“韩国后人类学会”，围绕人工智能的伦理用以人文学和法学的观点进行研究。近期，欧盟委员会发布人工智能伦理准则，以提升人们对人工智能产业的信任。

他认为，任何创新探索，需要一定的空间。从这个意义上说，相关法律所扎起的“篱笆”，若太过铜墙铁壁，可能拖慢技术发展的正常脚步。从宏观上看，能否留出一定缝隙或模糊地带，确保技术发展始终处于“可知、可控”的状态，则更为理想。

“历史上每一次技术发展，法律都可以充分应对，”上海大学法学院副院长，知识产权学院院长许春明说：“人工智能会不会带来颠覆式的影响？目前来看，还没到这个程度。”他指出，对人工智能相关法律制定的讨论应分为两个阶段。现实是技术还远未达到可以替代人类的程度，依然是工具。因此，现有法律规则大框架，可以基本覆盖。长远来说，“法律的幻想”也不可或缺，当人工智能真的可以替代人类，它就与以往一切技术都截然不同，后者无论何时都是法律上的客体，前者是否需被界定为法律上的主体，这是需要讨论的。

“我相信，人类是不会纵容某种技术发展替代人类自身的，当下，法律方面更为紧要的，是如何更好地规范及促进其发展。”许春明透露，对此中国已经在探讨准备中。