腾讯研究院：2017年全球人工智能政策十大热点

2017年是人工智能迅猛发展的一年，技术在进步，不断取得突破，各行各业都在和人工智能技术相结合。2017年也是人工智能公共政策异常热闹的一年，各国的人工智能战略还在持续出台，自动驾驶、算法规制、人工智能伦理等细分领域的政策、立法、标准在政府、科研机构、行业公司等多层面逐步展开。

人工智能有望引领一场新技术革命，带来全新的或者更深层次的法律、伦理、经济等社会制度影响和问题，因此需要搭建起政策和技术之间交流沟通的桥梁和连接，及早让跨学科、多元化的参与者共同来推动普惠的人工智能发展，确保人工智能能够有益于人类社会。

为此，腾讯研究院法律研究中心对2017年全球人工智能政策进行了盘点，梳理出了具有业内影响力和引领作用的十大政策，为国内人工智能政策研究提供参考的同时，也希望有更多跨学科、多背景的人员参与到人工智能政策法律的讨论和制定中来，共同实现智能网络社会的包容性、普惠性和可持续性。

1

THE FIRST

“阿西洛马人工智能原则（Asilomar AI Principles）”推出，确保AI有益于人类社会

【概要】2017年1月，未来生命研究院（FLI）召开主题为“有益的人工智能（Beneficial AI）”的阿西洛马会议。法律、伦理、哲学、经济、机器人、人工智能等众多学科和领域的专家，共同达成了23条人工智能原则，呼吁全世界在发展人工智能的时候严格遵守这些原则，共同保障人类未来的利益和安全。包括霍金、伊隆·马斯克、德米斯·哈萨比斯等在内的近四千名各界专家签署支持这些原则。

【评析】人工智能的发展引起了国际社会对于伦理问题的关注，阿西洛马人工智能原则被称为人工智能发展的“23条军规”，是目前国际社会对AI伦理相对系统的阐述，具有较大的影响力。但该伦理原则尚处于初期阶段，很多问题缺乏广泛的共识，需要进一步探索。我国尚无类似伦理指南，应积极构建人工智能伦理指南，发挥引领作用，推动普惠和有益人工智能发展。

☆【链接】

https://futureoflife.org/ai-principles/

2

THE SECOND

美国计算机协会（USACM）发布算法透明和可责性七项原则，致力于解决算法歧视

【概要】1月12日，美国计算机协会下属美国公共政策委员会发布文件，在其中阐述了关于算法透明和可责性的七条原则。七大原则分别为：（1）意识：相关主体应意识到算法中可能存在的偏见及潜在危害。（2）获取和救济：对算法决策提出质疑并获得救济。（3）责任制：即使无法详细解释算法如何产生结果，机构也应对其所使用算法的决策负责。（4）解释：鼓励使用算法决策的组织和机构对算法所遵循的程序和所做出的具体决策进行解释。（5）数据来源：算法的构建者应该对训练数据的收集加以描述。（6）可审查性：模型、算法、数据和决策应被记录，以便在怀疑有损害的情况下对其进行审查。（7）验证和测试：机构应使用严格的方法来验证其模型，并记录方法和结果。

【评析】随着人工智能的发展，算法歧视与算法黑箱的问题逐步进步公众视野。出于包括技术、经济和社会等在内的很多因素，算法所作出的决策可能是不透明的。该项原则的发布是解决算法歧视问题的初步尝试，相信后续会有更多的致力于解决算法歧视的公共政策出台，以尽量减少潜在的危害。

☆【链接】

https://cacm.acm.org/magazines/2017/9/220423-toward-algorithmic-transparency-and-accountability/fulltext

3

THE THIRD

欧盟议会通过全球首个“关于制定机器人民事法律规则的决议”，探索机器人和人工智能民事立法

【概要】2月16日，欧盟议会投票通过一项决议，就制定《机器人民事法律规则》提出具体建议，并要求欧盟委员会提交关于机器人和人工智能民事责任的法律提案。决议提出诸多制度：成立统一的机器人和人工智能监管机构；针对更高级的机器人建立登记制度；引入电子人格以促进自主智能机器人（尤其是无形AI）的登记、保险和管理；提出强制保险、赔偿基金等新的责任规则；提出伦理原则和《机器人宪章》以保障负责任的创新；针对计算机和机器人生成的可版权作品界定“独立智力创造”标准以明确AI智力成果的知识产权保护。

【评析】欧盟是以法律理性保障公民权利的典范，对新技术和新事物的立法和监管探索，走在世界前列。但创新与监管历来存在紧张关系，需要维持一种平衡状态。人工智能有望引领新技术革命，对人类社会方方面面产生重大影响，其监管应当包容、审慎，结合实际发展和应用逐步探索。

☆【链接】

http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//EN

4

THE FORTH

德国提出全球首个自动驾驶汽车伦理原则，道德困境决策不可事先编程

【概要】2017年6月，德国交通部下属的伦理委员会发布一份《自动和联网驾驶》报告，在其中提出了自动驾驶汽车需要遵守的20条伦理规则。这些伦理规则的核心内容包括：（1）保护个人优先于其他一切功利主义的考虑；（2）当危险情况不能避免时，保护人类生命优先于其他法律利益，为了避免造成人员伤亡，可以给动物或者财产造成损害，这在编程上是被允许的；（3）道德困境之下的决策依赖于现实的具体情况，不可能被清楚地标准化，因此也不可能被事先编程；（4）在面对不可避免的事故时，禁止基于人身特征（年龄、性别、生理或者心理状况等）进行歧视，同时不得牺牲不相关方。

【评析】人工智能伦理是2017年的热点，很多讨论都设定在自动驾驶的场景，包括MIT自动驾驶道德决策在线问卷、IEEE伦理白皮书和标准等等。但德国系统提出自动驾驶的20条伦理规则在全球范围内尚属首次。德国连同美国、英国等的自动驾驶汽车政策说明在自动驾驶领域规则先行的重要性。但伦理规则的探索要避免给产业套上紧箍咒，阻碍创新。

☆【链接】

https://www.bmvi.de/SharedDocs/EN/Documents/G/ethic-commission-report.pdf?__blob=publicationFile

5

THE FIFTH

中国出台《新一代人工智能发展规划》，全方位打造AI强国

【概要】7月20日，国务院正式印发了《新一代人工智能发展规划》，从战略态势、总体要求、资源配置、立法、组织等各个层面阐述了我国人工智能发展规划。规划提出到2020年，我国人工智能总体技术和应用与世界先进水平同步；到2025年基础理论实现重大突破；到2030年人工智能理论、技术与应用总体均达到世界领先水平，我国将成为世界主要人工智能创新中心。

【评析】近年来，越来越多的国家认同人工智能将带来下一次产业革命，美国、英国、欧盟、加拿大、日韩等国家和地区都提出了各自人工智能战略。《新一代人工智能发展规划》，是中国继美国人工智能国家战略发布后在人工智能领域的顶层设计和战略部署。与各国战略相比，我国规划突出强调技术与应用，而相对淡化人工智能发展的其他方面或问题，包括人力资源与教育、标准、数据环境等。在AI立法与促进、教育与人才培养、AI带来问题应对等诸多方面，我们也应该积极探索，不仅提升“硬实力”，也要提升“软实力”，从追随者走向引领者。

☆【链接】

http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm

6

THE SIXTH

韩国国会提出《机器人基本法案》，积极探索机器人法律问题

【概要】7月19日，韩国国会议员提出《机器人基本法案》，旨在确定机器人相关伦理和责任的原则,应对机器人技术的发展带来的社会变化。法案规定政府应制定政策，赋予机器人具有相应权利义务的电子人格地位，对机器人进行分类、调查和登记，确定机器人导致的损害的责任和赔偿方案。法案专设“机器人伦理规范”章节，明确机器人的相关伦理原则。此外，法案设立专门的国家机器人伦理政策委员会，每三年制定和修改机器人相关政策立法。

【评析】2008年，韩国出台《智能机器人法》，促进机器人产业发展。2017年的该法案更加集中地讨论机器人的法律问题并积极关注机器人的伦理规范。但是，由于该法案中的很多立法内容是对韩国现有法律框架的突破性尝试，目前该法案在韩国进展缓慢，有待韩国立法部门及其他相关部门进一步讨论。

☆【链接】

https://www.lawmaking.go.kr/lmSts/nsmLmSts/out/2008068/detailRP

7

THE SEVENTH

美国国会推动自动驾驶汽车立法，加速产生创新进程

【概要】9月6日，美国国会众议院通过一部自动驾驶法案（SELF DRIVE ACT）；9月28日，美国国会参议院提出另一部自动驾驶法案（AV START ACT）。两部法案略有差异，预计2018年将获美国国会两院正式通过，成为法律。法案旨在促进自动驾驶技术和汽车发展，规定美国联邦对自动驾驶汽车设计、制造和性能的立法优先权，允许自动驾驶汽车在公共道路上测试，显著增加自动驾驶汽车豁免的数量并逐年提高，成立自动驾驶汽车委员会探索自动驾驶汽车安全标准。此外，还包括网络安全、隐私保护、消费者教育等方面的规定。

【评析】美国国会正在推动的自动驾驶汽车法案可以说是全球范围内首个重大的自动驾驶汽车立法，不仅仅会对美国自动驾驶汽车技术和产业产生重大影响，而且会给世界其他国家和地区产生示范效应。该法案预计将在2018年通过，结束美国各州对自动驾驶技术和汽车的碎片化监管状况。该法案受到了美国科技公司的普遍欢迎，也说明了法律的作用不仅仅是限制，而是可以促进甚至加速创新进程。

☆【链接】

https://www.congress.gov/bill/115th-congress/house-bill/3388

https://www.congress.gov/bill/115th-congress/senate-bill/1885

8

THE EIGHTH

爱沙尼亚提出机器人法案，赋予人工智能代理人法律地位

【概要】10月16日，爱沙尼亚政府公布人工智能法案，考虑赋予人工智能法律地位，使其成为人类的代理人，并确定其在事故中的责任问题。法案提出，目前人工智能的法律地位应介于独立法律人格（比如公司）和无法律地位的财产之间。政府希望通过该法案赋予人工智能以代理权，但最终的法律权利与义务由被代理人承担。

【评析】该法案是全球范围内考虑赋予人工智能代理人法律地位的重要立法，虽然法案还在讨论阶段，但对于未来各国探索人工智能的法律地位具有积极的借鉴意义。爱沙尼亚国内评估机构认为该法案如果能够通过，可以进一步促进爱沙尼亚本国经济的数字化发展，吸引投资，为人类免除简单的重复性劳动。此外，爱沙尼亚国内也在探讨未来是否给予人工智能独立的法律地位更为合适，但是其国内的技术专家从人工智能技术发展的角度认为目前还为时过早。

☆【链接】

http://www.independent.co.uk/news/business/news/estonia-robots-artificial-intelligence-ai-legal-recognition-law-disputes-government-plan-a7992071.html

9

THE NINTH

美国纽约通过算法问责法案，促进政府自动决策算法的公开透明

【概要】12月11日，纽约市议会通过了算法问责法案，以解决算法歧视问题，该法案需要市长签署后才能正式生效。根据该法案，纽约市将成立一个由自动化决策系统专家和受自动化决策系统影响的公民组织代表组成的工作组，专门监督市政机构使用的自动决策算法的公平性、问责性和透明度。该小组负责推动政府决策算法开源，使公众了解市政机构自动化决策的过程，并就如何改进算法问责制和避免算法歧视提出建议。

【评析】该法案是美国规制算法的重要立法。随着人工智能技术不断发展，美国的自动化决策系统逐渐进入政府决策和司法应用领域。该法案所提倡的促进政府自动决策算法的公开透明和可解释性，将促进政府决策中的算法的可信度，为其他国家和地区制定人工智能算法监管规则提供了有益借鉴。

☆【链接】

10

THE TENTH

IEEE发布《人工智能设计的伦理准则（第二版）》，全面阐述人工智能13个方面的伦理事项

【概要】12月12日，电气电子工程师学会（IEEE）发布《人工智能设计的伦理准则（第二版）》。新版人工智能伦理准则进一步丰富了伦理事项，涵盖一般原则、价值嵌入、研究和设计的伦理方法、AGI和ASI的安全、个人数据、自主武器、经济和人道主义问题、法律、情感计算、教育和知悉的政策、经典伦理问题、混合现实、福祉指标等13个方面，并针对这些伦理事项提出了具体的建议，比如在法律方面，认为当前技术发展还不足以赋予人工智能法律地位。这些建议可以给后续标准制定等政策工作提供参考。

【评析】第二版准则将人工智能伦理事项从9个方面扩充到了13个方面，是来自于学术界、产业界、社会研究领域、政策研究领域以及政府部门的，具有技术、人文等多学科背景的数百名参与者达成的共识，是全球范围内系统、全面阐述人工智能伦理问题的重要文件，并在不断发展和完善。人工智能伦理准则可以给IEEE正在推动的11个与人工智能伦理相关的标准制定提供建议。两者配合，有望将人工智能伦理从抽象原则落实到具体的技术研发和设计。但是，其中的伦理要求能否在技术层面真正实现，当前还存在争议，需要更多探索。

☆【链接】

https://standards.ieee.org/develop/indconn/ec/autonomous_systems.html

指导团队：

司 晓 腾讯研究院院长

张钦坤 腾讯研究院秘书长

研究团队：

蔡雄山 腾讯研究院法律研究员中心首席研究员

曹建峰 腾讯研究院法律研究中心研究员

孙 那 腾讯研究院法律研究中心研究员

祝林华 腾讯研究院法律研究中心助理研究员

“中国金融科技50人论坛”（CFT50）于2017年4月22日在北京发布成立。CFT50汇聚了国内金融科技一线的监管层人士、专家学者和企业领袖，共同探究前沿课题、促进产业实践，为中国金融科技的发展贡献力量。论坛紧密围绕国家金融发展战略与市场趋势，努力建设成为服务于“政产学研用”的优秀金融科技学术平台，并积极推动金融科技领域的国际交流与协作。