人工智能犯罪之刑法应对

尹国 金梅娟

摘要：

大数据时代的到来，人工智能参与人类生活方方面面，并扮演者不可或缺的角色。当前处于人工智能从低级向高级发展的过渡阶段，人工智能引发的犯罪案件频现，如何通过法律对人工智能犯罪的规制是法学学者们激烈讨论的话题。在案件中，人工智能所涉及的主体、各主体之间的责任划分以及是否将人工智能作为刑事责任主体是我们亟需解决的问题，目前我国民法总则、刑法中均未赋予人工智能法律人格，需要借鉴国外各国对人工智能的规定以迎接强人工智能对法律的挑战。

关键词：人工智能犯罪;法律人格;刑事主体;应对策略

一、人工智能犯罪研究现状

1950年，图灵提出：“Can a machine think ？”[1]揭开人工智能发展序幕。经过几十年的研究与发展，人工智能步入低级向高级过渡期。众多企业研发与引进人工智能机器人从事流水線工作;达芬奇手术机器人在全球医院中广泛应用;谷歌无人驾驶汽车频在公路现身;大规模人工智能武器的应用等。人工智能技术给人类带来便捷的同时也带来诸多风险。日本自1981年至今，发生多起机器人伤人杀人事件;2015年美国一台机器人挥舞手臂杀死一名汽车厂装配工;同年在德国大众汽车厂机器人将技术工人碾压在金属板致死;2017年浙江警方破获首起利用人工智能犯罪案件;2018年安徽芜湖发生一起机器人伤害工人致死案件……人工智能的危险程度与犯罪风险逐渐提升，对人工智能的法律规制需提上日程。

2010年开始，Hallevy教授发布多篇关于人工智能犯罪的论文并出版《When robots kill ：artificial intelligence under criminal law》对人工智能犯罪进行研究。[2]刘宪权教授分别对弱人工智能与强人工智能犯罪进行分析，对人工智能、人工智能研发者、使用者三者在某一犯罪中的主体责任的划分研究，并认为人工智能超越人类编程之外的行为可能成为刑事主体。[3]而朴宗根教授认为人工智能犯罪缺乏罪责能力、缺乏违法认识可能性与期待可能性，不能通过法律成为犯罪主体。[4]王肃之教授站在现有的法律角度，利用现有刑法犯罪理论去规制与人工智能有关的自然人与法人。[5]张成东教授认为强人工智能时代刑事立法缺乏必要性，强人工智能不具备独立意志、规范意识等因素，不能成为刑事主体。[6]人工智能是否能成为刑事主体涉及人工智能犯罪问题中主体认定与责任承担，正确认识这个问题是规制人工智能犯罪的重要前提。

二、人工智能能否成为刑事主体？

犯罪是否成立，无论是侵害行为还是侵害结果都必须有一个具体的行为者与结果制造者。而这个侵害行为的行为者与结果者就是我们要研究的犯罪主体。人工智能犯罪案件中，判断人工智能是否为刑事主体是公平划分刑事责任的前提。当前各国的刑法都没有关于犯罪主体的法定定义，只有对犯罪主体的具体内容以及刑事责任年龄、刑事责任能力等问题的相关规定，刑法理论上有关犯罪主体的定义没有统一表述。

（一）人工智能刑事主体之否定论

日本学者山口厚认为：“犯罪的主体在法律条文上是用‘…者来表现的，自然人属于此。法人不属于‘…者，仅在具备将法人作为处罚对象的特别规定的场合，方才处罚法人。”[7]刑法尚未对AI规定，AI亦不属于‘…者表现。日本学者团藤博士从人格行为论出发，认为犯罪行为是“行为人人格的主体性现实化的身体动静”这种行为是具有生物学的基础与社会的基础，是在人格与环境的相互作用中由行为人的主体性态度所实施的。[8]人工智能由一串串代码组成，人工智能的行为是根据编码指令抑或深度学习后自身发出的行为指令，难以脱离“人造载体”的局限，不具备生物学的基础。康德把犯罪看作是一个有理性的人之所为，只有这样才能加刑于他，犯罪人首先是一个具有刑事责任能力的人。在责任行为中，行为者据此被视为行为结果的作者。[9]人工智能犯罪的情形中，其是都具备责任能力值得考量。张成东教授认为人工智能超越编程外的意志极大可能是程序中的遗漏而非产生的独立意志，加之其实施行为是在既定程序下进行，且缺乏自主意识有选择的实施，实然与应然分析出强人工智能无法成为刑事主体。

（二）人工智能刑事主体之肯定论

目前，大多数学者认同人工智能具备刑事主体资格。周详教授从“权利主体论”角度出发，他认为将智能机器人“人格化”不存在法律上的障碍。[10]其实早在2017年，机器人Sophia 就被沙特阿拉伯授予公民身份。刘宪权教授从赋予人工智能道德与伦理属性出发，肯定智能机器人的犯罪主体地位，从《刑法》17条入手承认人工智能的主体地位。[11]国外Hallevy教授认为犯罪主体可以从自然人、法人中增加人工智能。彭文华教授研究Hallevy教授有关人工智能犯罪理论，并认为并非所有人工智能都可以赋予法律人格成为犯罪主体。[12]肯定论学者站在科技前沿探索人工智能犯罪的相关问题，但值得注意的是当前人工智能入刑处于萌芽阶段，需要究其本源进行研究。人工智能与法律的结合涉及多个学科领域知识，“法律人”的生物学属性与意识表现是什么？自然人与人工智能的思考方式、思维诞生产生的来源是什么？法律意义上的人格具备哪些要素等…这个问题是需要综合多学科领域知识，学者们共同的努力才能准确回答。

（三）人工智能刑事主体之我见

2015年开启人工智能新革命，现在仍处于人工智能过渡期。目前人工智能不具备生物学的特征，其独立实施的行为也区别于自然人和法人行为的特征。加之人工智能最开始是基于人类的代码产生，其存在与工作都是根据人类的指令进行，这与能独立思考，具有自己意志的人截然不同。人工智能的深度学习是基于人类的只是数据库，暂时不能脱离人类的经验而行，并且所有的代码是人类输入编程。人工智能在一定程度上具有智并不代表它具有人类特有的感情，在过渡期，人工智能尚不能赋予其刑事主体资格。

在未来的强人工智能时代，或许世界上会存在诸多“类人”智能体，而在那时，人工智能在某些方面还是达不到意志自由。以Alpha Go为例，Alpha Go在2016年战胜围棋冠军李世石，与柯洁对战。Alpha Go之所以赢是研究团队将目前所能搜集的围棋路数、棋谱等输入Alpha Go，使得Alpha Go掌握比棋手更多的路数，且能预先判定对手的下一步，其胜利是编程快速计算的结果。现阶段赋予人工智能刑事主体资格还为时过早。在民法领域，杨清望教授认为可以从人类的权利优先为主角度，运用法律拟制技术，赋予人工智能独立法律人格。[13]朱程斌从伦理角度入手，认为不能赋予人工智能生物人的法律人格，但是可以赋予其法人人格。[14]也有学者根据洛克劳动理论与弗鲁姆等期望理论，认为人工智能在民商法中极有可能被赋予拟制法律人格。

近现代的刑法理论是以自然人与自然人行为为中心建立起来的，无论是以行为为中心的刑事古典学派还是以行为人为中心的刑事实证学派，皆倡导个人责任原则、罪责自负等法律适用基本原则。人工智能犯罪行为足以侵害个人、社会、国家的法益，必须进行归责。 结合民法、公司法以及刑法第17条之规定，人工智能作为一个编码组成的智能体，其不具备生物人的特征，但具备法律人所需的要素，可以赋予其拟制法律人格，从而追究其犯罪责任。

三、AI时代下刑法之应对

习总书记在十九大报告中提到：“要推动互联网、大数据和实体经济的深度融合。”且2017年国务院发布的《新一代人工智能发展规划》中提到：“制定促进人工智能发展的法律法规和伦理规范”。人工智能时代下，刑法予以规定必不可少，需尽快制定刑法规定迎接新一轮人工智能革命的挑战。

（一）人工智能犯罪的主体

在弱人工智能阶段，软件研发者往往基于某种目的研发人工智能。科研项目的需要抑或软件使用者的委托更或是为了谋取非法利益。出于谋求不正当利益，软件开发者与软件使用者往往根据自己的意志向人工智能下达某种违法指令来达到某种非法目的，人工智能根据指令实施违法行为，这一过程中，人工智能仅作为犯罪的工具，软件开发者与软件使用者是犯罪的主体。

在人工智能犯罪案件中可能会存在这几种情况：一、软件开发者编程的人工智能符合法律规定，使用者取巧利用人工智能进行犯罪活动，此时使用者负刑事责任。二、软件开发者受使用者的委托编程设计用于犯罪的人工智能，若人工智能实施犯罪活动。此时软件开发者与使用者均是故意，共同承担刑事责任。三、软件开发者向使用者隐瞒人工智能会犯罪的部分功能，在使用者未能掌控人工智能下，人工智能的犯罪结果只能由软件开发者承担。四、软件开发者履行其提醒义务与维修义务，使用者疏忽大意或者过于自信所造成的案件责任由使用者承担;软件使用者根据使用说明进行操作，软件开发者未履行提醒义务，人工智能在使用者支配下导致的损失由软件研发者承担。

在强人工智能阶段，人工智能能够通过深度学习，突破程序的固定模式，具有自己的“价值观”，人工智能可以自主的实施具有社会危害性的行为。人工智能在没有软件研发者与使用者下达指令的情况下所实施的犯罪结果应根据人工智能、软件使用者、开发者各自的过错承担刑事责任。

（二）应对之策略

人工智能的产生可以参考法人制度，采用备案登记制度，一定的资金作为保障，更需要特别的管理人员。备案登记是为了更快的查找到人工智能的身份与相关责任人;资金是人工智能犯罪或违法后用于补偿或赔偿受害人损失的保障;管理员对人工智能负有监督和维护义务，在人工智能犯罪时，管理员未尽到相应的义务，同承担对应的刑事责任。

现有的刑罚主刑包括管制、拘役、有期徒刑、无期徒刑、死刑。针对自然人犯罪与单位犯罪的刑罚很难对人工智能施行，以使其敬畏刑法。可针对人工智能增设新的刑罚措施，例如：删除其带有攻击性的程序，删除其主要功能或直接摧毁人工智能程序。更或者参考科技电影中给机器人植入特殊程序，一旦人工智能有攻击人类或危害社会的思维编码产生，立即启动自毁程序。且特殊程序必须根植于人工智能的核心程序中，以至于人工智能不能够屏蔽。

完善相应的人工智能保险制度，鼓励人工智能保险行业的发展。人工智能的软件开发者与使用者需要为人工智能购买一定数额的法定保险，类似于“交强险”，一旦人工智能犯罪出现，保险公司会尽快对受害方赔付损失。

四、结语

技术的进步催发新事物的产生，对于人工智能的犯罪研究需提上日程。立足于实际，结合新的技术，刑法学者们应全面的探索人工智能犯罪问题。让刑法的达摩克利斯之剑悬挂人工智能头顶，构建起人工智能刑法体系，以维护社会稳定。

[参考文献]

[1]Alan Turing，Computing Machinery and Intelligence 1950.49（236）mind.433-460.

[2]彭文华.哈利维的人工智能犯罪观及其启示[J].上海政法学院学报（法治论丛），2019，34（04）：70-88.

[3]劉宪权.涉人工智能犯罪刑法规制的路径[J].现代法学，2019，41（01）：75-83.

[4]朴宗根，杨玥.人工智能法律主体资格之刑法评判[J].南宁师范大学学报（哲学社会版），2019，40（05）：168-173.

[5]王肃之.人工智能犯罪的理论与立法问题初探[J].大连理工大学学报（社会科学版），2018，39（04）：53-63.

[6]张成东.强人工智能体刑事主体地位之否定[J].时代法学，2019，17（05）：54-62.

[7][日]山口厚著，付立庆译.刑法总论（第三版）[M].北京.中国人民大学出版社，2018：35.

[8][日]大塚仁著，冯军译.刑法概说（总论）第三版[M].北京.中国人民大学出版社，2002：114.

[9]陈兴良.刑法的启蒙[M].北京.北京大学出版社.2018：166.

[10]周详.智能机器人“权利主体论”之提倡[J].法学，2019（10）：3-17.

[11]刘宪权.人工智能时代机器人行为道德伦理与刑法规制[J].比较法究，2018（04）：40-54.

[12]同[2].

[13]杨清望，张磊.论人工智能的拟制法律人格[J].湖南科技大学学报（社会科学版），2018，21（06）：91-97.

[14]朱程斌.论人工智能法人人格[J].电子知识产权，2018（09）：12-21.

[基金项目]本文系四川省高等学校人文社会科学重点研究基地基层司法能力研究中心项目：人工智能创作物的知识产权问题研究（项目编号JCSF2018-08）研究成果之一。四川轻化工大学2019年大学生创新创业训练计划项目：人工智能法律人格问题研究（项目编号CX2019078）研究成果。

（作者单位：四川轻化工大学  法学院，四川 宜宾 644000）