人工智能时代的刑事风险分析与研究

文/ 中南大学 苏文聪

由人工智能所引发的刑事风险更多集中在过失犯罪方面，建议今后在现行刑法当中增设人工智能机器设计、掌控、使用人员方面的条款，保证其可以在法律的约束下合法使用人工智能，规避刑事风险。

自从进入信息化时代之后，人工智能也得到快速发展，这与大数据的普及和司法数据公开化有紧密的关系。人工智能与法律的联系越来越密切，同时立法也越来越完善。无论是法律文书制作以及法律合同编制，还是法律咨询，以人工智能为前提的法律科技正在逐步成熟，对传统法律行业带来了巨大冲击，这也扩大了人工智能的应用领域，引发了互联网时代的行业变革。

2016年人工智能律师Case Cruncher Alpha的出现，引起了各个行业的关注，相关专家与学者针对人工智能风险基础上的知识产权、民事法等进行了深入探究。国务院针对未来人工智能的发展出台了《新一代人工智能发展规划》，对人工智能可能引发的危险、对各个行业的挑战进行了规定，其中，刑事风险也存在。

研究背景

关于人工智能这一名词，最早提出是在1956年，由麦卡锡等人提出，同时以人工智能是否具备独立意识、解决问题的能力作为标准，将人工智能分为两种类型，即强人工智能和弱人工智能。

当前社会中比较常见的弱人工智能主要有自动驾驶汽车以及智能医生等，尽管可以凭借自主能力完成驾驶以及医疗诊断等工作，但是其本质上依然是以自然人的思想为主导，独立辨认、独立控制的能力缺失。

强人工智能机器与弱人工智能相反，拥有独立思考的意识以及控制能力，甚至其智力可能会在一定程度上超过人类。无论人工智能的强或弱，都会引发刑法方面的问题，并且带来刑事风险，需要结合人工智能研究制定可行的对策。

人工智能时代的刑事风险

（一）改变自然犯罪行为

人工智能技术在法律、刑事领域应用，会在一定程度上提高犯罪行为原本就具有的危害性，相比以往犯罪模式，人工智能行为模式因为具有互联网的所有特点，其覆盖范围也就更大。现如今，人工智能已经在医疗、工业、金融、法律等领域实现渗透。为了解决用户问题，平台采集诸多用户资料信息，虽然能够为用户提供便利的服务，但是这些信息也容易被不法分子利用，带来严重的后果。例如，将人工智能运用到银行等金融领域，获得客户资料与资金也就更加容易，严重的话会造成金融犯罪。

（二）基于人工智能引发新型犯罪模式

人工智能发展的过程中，一方面会使传统犯罪发生质的改变，另一方面也会改变危害程度以及行为模式，并为其赋予不可预测的特点，进而出现全新的犯罪模式。人工智能主要是通过对人脑神经系统的模式分析大数据，如此便可以得到与人脑相似的结论。因此，大数据是人工智能技术应用的关键，若大数据遭到非法利用，那么不法人员进行分析之后便会带来严重的后果。

（三）人工智能独立犯罪

随着人工智能的不断发展，其已经在机器人领域得到广泛运用，这样一来便会导致一些问题，即机器人经过深度学习之后可能会形成自主意识，继而摆脱设计、使用人员的控制实施犯罪行为。

一方面，智能机器人实施犯罪行为的过程中，是以设计人员所编写程序为前提，即机器人代替设计人员实施行为，这时智能机器人是作为设计人员的替代工具，所体现的是设计人员的观念，即可将其等同于间接正犯；另一方面，若智能机器人所执行的是自己主观行为，即通过深入学习之后将代码改变，那么所有行为体现的便是机器人的意志，需要由其自身承担责任。那么针对智能机器人需要承担的刑事责任，建议在现行立法的基础上进行完善，在将原本的生活工具提升至刑事责任主体这一层面，机器人程序编写无需受到刑法限制，若是设计、编写以外实施犯罪行为，便要承担相应的刑事责任。

人工智能时代的刑事风险规避建议

（一）突出人工智能刑事责任的主体性

人工智能机器人与普通机器人的不同之处在于，可以自行深度学习，获得与人类相同的自主辨认与思考能力，这样智能机器人学习期间，也会逐渐掌握数据编制与程序编写的能力，进而在主观意识的引导下做出危害社会的行为。由于人工智能机器人已经具备了独立辨识能力，可以将其视为能够承担刑事责任的主体。

（二）基于现行刑法完善人工智能相关立法

现如今，我国人工智能的发展还处于弱人工智能机器时代，相关机器、装置的本质停留在产品阶段，可以按照“产品质量法”对其进行约束，引导产品生产者对生产的产品进行优化，抑制人工智能机器侵权等一系列刑事风险。由人工智能所引发的刑事风险更多集中在过失犯罪方面，建议今后在现行刑法当中增设人工智能机器设计、掌控、使用人员方面的条款，保证其可以在法律的约束下合法使用人工智能，规避刑事风险。

除此之外，建议在现行刑法中，对传统罪名的解释进行延伸，使刑法领域内的保护范围与结构更加完善，增加打击犯罪有效方法，发挥刑法机能将人工智能导致的问题真正解决。随着科学技术的演进，今后可能会有更加先进的人工智能机器人问世，是否要在现行刑法当中明确其犯罪主体地位、作为刑法保护范围内的被害主体，是否需要设置新的刑罚体系，要结合行政法律、民事法律等相关法律条款，结合实际情况再行规定。

责任编辑：汪峥