解读日本《以人类为中心的人工智能社会原则》

引言

在人工智能（AI）研究和应用中应遵循怎样的伦理和原则，目前尚未形成国际规则。日本在《第五期科学技术基本计划》中提出“Society 5.0”发展目标后，围绕AI社会的伦理、法律等规则等一直开展积极探讨。2018年12月27日，内阁府发布《以人类为中心的AI社会原则》（以下简称《原则》），从宏观和伦理角度阐明了日本政府的态度。

作者简介：

李慧敏，中国科学院科技战略咨询研究院助理研究员。

由于日本正面临少子高龄化、劳动力不足、地方稀疏化、财政支出负担等社会经济问题，日本政府对AI的发展和应用寄予厚望。其对AI内涵的界定也不局限于技术层面的人工智能，而是泛指“高度复杂的智能社会体系”。《原则》肯定AI的重要作用，同时强调重视其负面影响，如社会不平等、等级差距扩大、社会排斥等问题，提出在推进AI技术研发时，综合考虑其对人类、社会系统、产业构造、创新系统、政府等带来的影响，构建能够使AI有效且安全应用的“AI-Ready社会”。

1

AI社会的基本理念

对AI的利用不能仅仅停留在实现效率、便利等现实利益层面，AI作为人类的公共财富，要通过推动社会方式的根本变革和真正创新，实现全球可持续发展目标。AI社会需要体现以下三个基本理念：

（1）尊严（Dignity）：AI社会是尊重人类尊严的社会。应将AI作为人类的工具之一，使人类能进一步发挥自身能力和创造性，通过从事具有意义的工作得到物质上、精神上的富足。

（2）多元包容（Diversity & Inclusion）：使用AI技术，不只为实现提升便利、解放劳动等传统效率目标，要能够使具有多元背景和价值观、想法的每个人都能获得幸福，对多元化采取灵活、包容的姿态，推动新价值创造。

（3）可持续（Sustainability）：通过灵活使用AI，强化科学技术储备，催生新的商业模式和解决方案，实现科技创新立国，减少社会差距、缓解全球环境问题等，推动可持续社会的构筑。

2

“AI-Ready社会”的愿景

AI、物联网、机器人、超高速宽带通信网等都是实现“Society 5.0”的重要技术。AI-Ready社会是实现“Society 5.0”所必需的社会变革。“设定怎样的目的去使用AI”是人类必须考虑的问题。《原则》分别从人类、社会系统、产业构造、创新系统、政府监管五个维度勾勒了“AI-Ready社会”的愿景。

第一，人类。AI-Ready社会对人类能力提出要求：（1）有能力理解AI的优缺点。数据、算法也会存在偏误（Bias），也会被用于不合理目的；（2）能够使人们从事具有较高创造性、生产性的劳动。通过AI的帮助能够使人们基于出身、文化、兴趣等，获得实现梦想和发挥创意的能力；（3）具有数据、AI基础知识和实施、设计等应用能力，跨领域、综合性、融合性的大量人才。

第二，社会系统。AI的使用能够推动个性化服务、解决方案的升级和效率化。需要医疗、金融、保险、交通、能源等在内的社会系统整体的灵活调整。为了保障社会系统整体的互联、协作，尤其需要建立各类社会系统间互联共通的数据应用基础支撑平台。

第三，产业构造。需要灵活地构筑国际化的劳动、雇佣和创业环境。需要企业实施公平竞争、采取灵活的工作方式，使人类的创造力通过产业能够得以持续发挥，拉动创新创业投资。

第四，创新系统。大学、科研机构、企业以及民众都可以跨越领域和立场，参与到AI研发、利用及评估中。通过AI应用进一步产生新的创意，催生更多的可能性，进一步扩大创新的范围。

第五，政府监管。产学官民利益相关方共同参与规则、制度、标准化、行为规范等方面的监管课题，兼顾弱势社会群体的意见，构建较为灵活且具实效性的监管方式。

3

“AI-Ready社会”的基本原则

第一，人类中心原则。AI的使用不得侵害宪法和国际规范保障的基本人权。AI应该用于提升拓展人的能力、使人类获得多元幸福。为了防止人类过度依赖AI、恶意使用AI操纵人类意思决定的行为，需要把握以下原则：（1）AI可以代替部分人力劳动，并作为辅助人类的高级工具，拓展人类能力和创造性；（2）人类自己可以判断和决定如何使用AI。对使用AI带来的后果和责任，根据问题性质在利益相关者之间妥当分配；（3）防止出现“信息弱者”和“技术弱者”群体。

第二，教育应用原则。平等地向所有人提供教育、培育应用的教育环境：（1）在幼儿教育、初等中等教育中提供广泛的教育机会，为社会人和老年人提供重新学习的机会；（2）建立提升AI、数理、数据科学素养的教育系统。重视应用教育，增加有助于认识数据偏误及使用方法偏误的教育内容；（3）转变单方向、均一化的教育方式，灵活运用AI激发人类兴趣，构建防止出现弱势群体的交互式教育环境；（4）完善教育环境，发挥民企和市民的自主性。

第三，保护隐私原则。AI社会中，依据个人行动等数据可以高精度推断其政治立场、经济状况、兴趣爱好等。需要谨慎对待个人数据：（1）包括政府对个人数据的使用行为在内，均不得侵犯个人自由、尊严和平等；（2）确保个人数据使用行为的正确性、正当性，使本人能够实质性参与并从中获益；（3）对个人数据必须把握使用和保护之间的平衡。

第四，安全保障原则。把握利益与风险之间的平衡，提高社会安全性和可持续性：（1）正确评估及降低AI风险、推进AI深度研发和AI风险管理；（2）重视AI使用的可持续性，不依赖少数几个特定的AI。

第五，公平竞争原则。公平竞争环境有利于推动商业模式和服务创新，维持经济持续增长：（1）防止特定国家利用AI资源优势地位，不当收集数据、侵害主权等行为；（2）防止特定企业利用AI资源优势地位，不当收集数据、实施不公平竞争行为；（3）防止由于AI的使用，导致财富和社会影响力过于集中于部分利益相关者。

第六，公平、说明责任及透明原则。（1）在AI设计理念下，人不应因人种、性别、国籍、年龄、政治信念、宗教等被不当地差别对待；（2）根据情况对使用AI的事实、数据获取及使用的方式、确保AI正确运行的相关措施等予以说明；（3）根据需要设置沟通对话场所，使人能够理解和判断AI提案；（4）确保AI及数据的可信赖性。

第七，创新原则。（1）为实现持续创新，跨越国境、产学官民、人种、政治理念等界限，从人才、研究两方面推进国际化、多元化及产学官民合作；（2）推动高校科研院所与企业间的平等合作及人才流动；（3）提升AI品质评估方法、，推动AI开发、测试、运用方法论等AI工学的确立；（4）在确保个人隐私和安全前提下，打破数据壁垒，推动数据跨国境流动；（5）调整政府规制内容，推进AI技术的社会应用。

4

启示

AI与实体经济深度融合的同时，对贫富差距、环境问题等关乎人类可持续发展的重大课题都产生重要影响。《原则》在尊重人类尊严、实现AI可信赖性等方面与欧洲委员会2018年12月18日发布的《关于可信赖人工智能的伦理准则》具有一致之处。崇尚人人平等、不唯效率至上的人本发展观，符合日本对“Society 5.0”的概念界定和打造超级智能社会的发展目标。

同时，数字经济时代，日本致力于依托AI实现联合国可持续发展目标（SDGs，Sustainable Development Goals），主动提出要为国际社会经济的广泛合作和创造性发展做贡献，寻求树立有担当负责任的国际形象，彰显了其积极参与国际治理、增强国家话语权的决心。

中国作为2016年二十国集团（G20）主席国，首次将“数字经济”列为G20创新增长蓝图中的一项重要议题。2017年，国务院印发《新一代人工智能发展规划》，提出积极应对人工智能发展可能带来的社会、伦理和法律等挑战。

我们不仅要抓住人工智能发展机遇，还要积极应对人口老龄化、劳动力人口下降、技能型人才短缺等挑战，多维度对人工智能的开发应用及影响进行系统深入、客观冷静的专业研讨，在基础研究、技术开发应用、资源开放共享、人才教育及法律政策上进行有序引导，为人工智能持续健康发展保驾护航。

经作者授权刊发，本文原载于《光明日报》，标题及内容略有删减。

责编 / 张洪瑞

美编 / Ray