智能时代需要“向善”的技术伦理观

作者 | 司晓 腾讯研究院院长

本文首发于2019年8月14日《学习时报》

随着人工智能技术的快速发展和广泛应用，智能时代的大幕正在拉开，无处不在的数据和算法正在催生一种新型的人工智能驱动的经济和社会形式。人工智能能够成为一股「向善」的力量，持续造福于人类和人类社会，但也带来了隐私保护、虚假信息、算法歧视、网络安全等伦理与社会影响，引发了对新技术如何带来个人和社会福祉最大化的广泛讨论。人工智能伦理开始从幕后走到前台，成为纠偏和矫正科技行业狭隘的技术向度和利益局限的重要保障。正如有学者所言，要让伦理成为人工智能研究与发展的根本组成部分。

在此背景下，从政府到行业再到学术界，全球掀起了一股探索制定人工智能伦理原则的热潮。例如，OECD和G20已采纳了首个由各国政府签署的人工智能原则，成为人工智能治理的首个政府间国际共识，确立了以人为本的发展理念和敏捷灵活的治理方式。我国新一代人工智能治理原则也紧跟着发布，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八项原则，以发展负责任的人工智能。可见，各界已经基本达成共识，以人工智能为代表的新一轮技术发展应用离不开伦理原则提供的价值引导。

因此，我们认为需要构建以信任、幸福、可持续为价值基础的人工智能伦理，以便帮助重塑数字社会的信任，实现技术、人、社会三者之间的良性互动和发展，塑造健康包容可持续的智慧社会。

构建让人信任的人工智能规则体系

虽然技术自身没有道德、伦理的品质，但是开发、使用技术的人会赋予其伦理价值，因为基于数据做决策的软件是人设计的，他们设计模型、选择数据并赋予数据意义，从而影响人们的行为。所以，这些代码并非价值中立，其中包括了太多关于人类的现在和未来的决定。所以，技术无关价值的论断并不正确。现在人们无法完全信任人工智能，一方面是因为人们缺乏足够信息，对这些与我们的生活和生产息息相关的技术发展缺少足够的了解；另一方面是因为人们缺乏预见能力，既无法预料企业会拿自己的数据做什么，也无法预测人工智能系统的行为。

因此，需要构建能够让人们信任的人工智能规则体系，让技术接受价值引导。作为建立技术信任的起点，人工智能发展与应用需要遵循四个方面的理念，给人工智能发展提供必要的价值引导。

一是可用。发展人工智能的首要目的，是促进人类发展，给人类和人类社会带来福祉，实现包容、普惠和可持续发展。为此，需要让尽可能多的人可以获取、使用人工智能，让人们都能共享技术红利，避免出现技术鸿沟。可用性还意味着以人为本的发展理念、人机共生、包容性以及公平无歧视。要求践行「经由设计的伦理」理念，将伦理价值融入到人工智能产品、服务的设计当中。

二是可靠。人工智能应当是安全可靠的，能够防范网络攻击等恶意干扰和其他意外后果，实现安全、稳定与可靠。一方面人工智能系统应当经过严格的测试和验证，确保其性能达到合理预期；另一方面人工智能应确保数字网络安全、人身财产安全以及社会安全。

三是可知。人工智能应当是透明的，是人可以理解的，避免技术「黑盒」影响人们对人工智能的信任。目前，学界和业界已在致力于解决人工智能「黑盒」问题，实现可理解的人工智能算法模型。此外，算法透明不是对算法的每一个步骤、算法的技术原理和实现细节进行解释，简单公开算法系统的源代码也不能提供有效的透明度，反倒可能威胁数据隐私或影响技术安全应用。相反，在人工智能系统的行为和决策上实现有效透明将更可取，也能提供显著的效益，例如在适当的时候对人工智能系统的决策和行为提供说明，而不是一味追求技术透明。最后，在发展和应用人工智能的过程中，应为社会公众参与创造机会，并支持个人权利的行使包括隐私、表达自由、救济等。

四是可控。人工智能的发展应置于人类的有效控制之下，避免危害人类个人或整体的利益。短期来看，发展和应用人工智能应确保其带来的社会福祉显著超过其可能给个人和社会带来的可预期的风险和负面影响，确保这些风险和负面影响是可控的，并在风险发生之后积极采取措施缓解、消除风险及其影响。长期来看，虽然人们现在还无法预料通用人工智能和超级人工智能能否实现以及如何实现，也无法完全预料其影响，但应遵循预警原则，防范未来的风险，使未来可能出现的通用人工智能和超级人工智能能够服务于全人类的利益。

当然，信任的建立，需要一套规则体系。在这些原则之下，人们可以探索制定标准、法律、国际公约等。需要采取包容审慎、敏捷灵活的治理方式，可以采取事后监管或者通过出台标准、行业公约、伦理框架、最佳实践、技术指南等调整人工智能等新技术的发展应用，支持行业自律。

确保人人都能追求数字福祉

其一，保障个人的数字福祉，人人都有追求数字福祉的权利。一方面需要消除技术鸿沟和数字鸿沟，全球还有接近一半人口没有接入互联网，老年人、残疾人等弱势群体未能充分享受到数字技术带来的便利。另一方面减小、防止数字技术对个人的负面影响，网络过度使用、信息茧房、算法偏见、假新闻等现象暴露出了数字产品对个人健康、思维、认知、生活和工作等方面的负面影响，呼吁互联网经济从吸引乃至攫取用户注意力向维护、促进用户数字福祉转变，要求科技公司将对用户数字福祉的促进和保障融入到数字产品及服务的设计中。

其二，保障个人的工作和自由发展，人人都有追求幸福工作的权利。虽然有人声称人工智能将导致大规模失业和无用阶层的出现，但目前而言，人工智能的经济影响依然相对有限，不可能很快造成大规模失业，也不可能终结人类工作，因为技术采纳和渗透往往需要数年甚至数十年，需要对生产流程、组织设计、商业模式、供应链、法律制度、文化期待等各方面做出调整和改变。但工作的内容、性质、方式和需求等可能发生很大变化，需要人们掌握新的知识和技能。预测显示，未来20年内，90%以上的工作或多或少都需要数字技能。而且人工智能、机器人等新技术正在从ICT领域向实体经济、服务业、农业等诸多经济部门扩散、渗透，未来中国将成为机器人大国，这些变化将在很大程度上影响当前的就业和经济结构。现在需要做的就是为当下和未来的劳动者提供适当的技能教育，为过渡期劳动者提供再培训、再教育的公平机会，支持早期教育和终身学习。

塑造健康包容可持续的智慧社会

技术创新是推动人类和人类社会发展的最主要因素。在21世纪的今天，人类所拥有的技术能力，以及这些技术所具有的「向善」潜力，是历史上任何时候都无法比拟的。换言之，人工智能等新技术本身是「向善」的工具，可以成为一股「向善」的力量，用于解决人类发展面临着的各种挑战。与此同时，人类所面临的挑战也是历史上任何时候都无法比拟的。联合国制定的《2030可持续发展议程》确立了17项可持续发展目标，实现这些目标需要解决相应的问题和挑战，包括来自生态环境的、来自人类健康的、来自社会治理的、来自经济发展的等等。

将新技术应用于这些方面，是正确的、「向善」的方向。例如，人工智能与医疗、教育、金融、政务民生、交通、城市治理、农业、能源、环保等领域的结合，可以更好地改善人类生活，塑造健康包容可持续的智慧社会。因此，企业不能只顾财务表现、只追求经济利益，还必须肩负社会责任，追求社会效益，服务于好的社会目的和社会福祉，给社会带来积极贡献，实现利益与价值的统一。包括有意识有目的地设计、研发、应用技术来解决社会挑战。

--END--