人工智能时代的刑事风险与刑法应对

王姝丽

摘要：人工智能时代来临产生大量不可预估性风险，以刑事风险为例存在造成部分传统犯罪危害性出现量变形成全新犯罪形式的可能性，甚至人工智能产品受多种因素共同作用的影响脱离人类控制出现危害社会的犯罪行为。目前我国现有的刑法体系对于人工智能产品相关追究主体刑事责任仍存在着一定的滞后性及局限性，一旦人工智能产品使用方或研发方有意实行犯罪行为时使用方或研发方仅仅承担过失犯罪刑事责任，而无法全面评估其对危害结果是否负有预见性义务。本文以人工智能时代为切入点分析其刑事风险，就提出具体的相关主体行为刑法规则进行深入探究，旨在为相关从业人员积累更多的工作经验。

关键词：人工智能 刑事风险 刑法应对

自上个世纪50年代达特茅斯会议明确提出人工智能概念以来，于会议召开十余年时间内已着手开展人工智能研究，逐步认识到人工智能研究进程止步不前与人类无法实现其自我创造及自我学习预想间存在着密切联系[1]。直至2016年由谷歌公司研发的“阿尔法狗”以4：1高分战胜围棋世界冠军李世石，意味着人工智能技术完全崛起，正式迈入人工智能技术发展全新阶段，而人工智能时代来临产生大量不可预估性风险。国务院印发的《全新人工智能发展规划》中明确提出“人工智能发展不确定性可能带来的风险及隐患存在冲击现有社会伦理及法律法规的可能性，甚至出现侵犯个人隐私问题”，客观上要求尽可能提早构建人工智能法律法规、政策规范及伦理底线，增强人工智能技术的安全管控能力。鉴于此，本文针对人工智能时代刑事风险及刑法应对的研究具有重要现实意义。

一、人工智能时代刑事风险

（一）危害性量变

一般说来，科技进步对人类社会所产生变化往往具有一定相似性，以改变人类社会生活模式加剧社会风险为主要体现，以工业革命为例大大提高人类社会生产效率，促使犯罪工具更为科学合理。虽然新形势下互联网技术无法推动传统犯罪进行升级，但是存在促使部分传统犯罪危害性发生量变的可能性[2]。从工业革命时代直至互联网时代，每一次人类社会生活时代更替均成为部分传统犯罪发生量变的有力条件。除提供高效便捷服务外，人工智能大大加剧人类社会风险系数。从犯罪危害性“广”的角度来看，人工智能技术能拓展犯罪行为的危害性覆盖面。

由于人工智能技术日益先进被广泛应用于社会生活各个领域，出现在越来越多行业中，换而言之未来人工智能存在完全取代人类进行工作的可能性，甚至部分领域中人工智能展现出与人类相似或超越人类的卓越能力，例如：以医疗领域为例人工智能技术能精确判断肿瘤所处位置及具体大小提供相应的手术治疗方案，甚至出现外科手术机器人广泛参与手术过程[3]。结合相关部门规划方案，未来我国以实现智能家居、智能商务、智能金融、智能农业及智能制造等全面智能化社会为主要目标，时刻警惕人工智能所产生的风险，一旦出现问题风险则存在造成牵一发动全身的局面。

（二）全新犯罪形式

人工智能指构建人工构造神经网络及利用系列编码程序实现大数据深度学习便于掌握识别数据作出相关决策的过程。从人工智能概念角度来看，人工智能系统深度学习无法脱离大数据利用的支持，换而言之滥用人工智能等同于滥用大数据。传统观念认为“数据利用可能涉及的犯罪类型为非法获取计算机信息系统内数据”[4]。同时，从最高人民检察院及最高人民法院司法解释角度来看，我国刑法及司法着重强调保护用于维护系统自身功能及以方位控制为核心的数据，对于数据自身内容属性及价值保护的重视程度有待提高，但是人工智能时代下数据滥用风险存在产生全新犯罪形式的可能性。

由于数据中包含信息量越大则不法分子攻击1次数据库所获取的信息量越多大大降低犯罪成本，促使数据过于集中自身具备不可避免的风险。一旦不法分子灵活运用人工智能技术分析海量数据或综合分析多个数据库则极易推演出得到关键敏感信息获取超出人类预期的结果，甚至涵盖威胁国家安全的重要信息。同时，受现有的数据安全防护手段难以跟上人工智能技术发展速度的影响，无法立足于全新犯罪形式作出及时有效的预警反应[5]。此外，部分不法分子主要通过干扰人工智能系统得以逃脱制裁及监控，尤其是掌握或改变其原有算法后，极易造成人工智能系统出现决策错误或识别错误。

（三）脱离人类控制

一旦智能机器人历经深度学习后产生自主意识或自主意志且于自主意志支配下实施脱离人类设计及编制程序范围内犯罪行为则面临着如何承担刑事责任的问题。目前我国现有的法律体系下需要承担刑事责任的主体包括单位及自然人，而相較于自然人，智能机器人不具备生命且拥有与人类相似的控制能力及辨别能力，完全存在成为刑事责任承担主体的可行性[6]。同时，智能机器人具有独特的两面性，于设计及编制程序范围内所实施的行为全面体现人类意识且无法自主决定行为目标，其所实施的行为不需要承担相应责任，而设计及编制程序范围外所实施的行为体现自身意志，与其他具有刑事责任能力主体所实施犯罪行为无任何差异。

二、人工智能时代刑法应对

（一）行为人故意利用人工智能实施犯罪

除造福人类社会外，科技发展为不法分子提供可乘之机，促使不法分子利用人工智能技术实施犯罪行为，一旦具备犯罪意图的研发方完全有机会于设计及编制程序过程中植入自身犯罪计划促使以智能机器人为人工产品代表帮助其自身实现犯罪目标，而上述情况属于典型行为人故意利用人工智能实施犯罪的情况。针对故意利用人工智能研发或使用相关产品实施严重危害社会的犯罪行为，必须将人工智能产品视为行为人实施犯罪的智能化工具，所有刑事责任由人工智能产品研发方或使用方全权承担，例如：以智能机器人为例研发方以实现自身杀人意图为目标设计出“智能杀手”，杀手实施杀人行为则刑事责任由研发方承担。

虽然智能机器人通过深度学习形成自主意识及自主意志，但是产生自主意识及自主意志后并非所有行为均全面体现其自主性，尤其是智能机器人于设计及编制程序范围内所实施的行为则认定该行为全面体现研发方的意识及意志。同时，刑法要求犯罪主体具有刑事责任能力的原因为拥有刑事责任能力的行为人实施行为时具备相对自由的意志，换而言之行为人面临多种行为选择时能凭借控制能力及辨别能力实现具体问题具体分析作出选择实施行为，而智能机器人于设计及编程程序范围内实施行为时不具备选择行为目标的自由，“智能杀手”自“出生”以来以杀人为其存在意义。