人工智能时代法律实务的变革与展望

肖薇（腾讯网络安全与犯罪研究基地高级研究员）

2018年3月18日晚10点左右，美国亚利桑那州一名女子被Uber自动驾驶汽车撞伤后不幸身亡。事发时，尽管有一名司机坐在方向盘后面，但是这辆车当时正处于自动控制模式。当时警方声明称，该车当时正朝北行驶，而该女子正在人行横道外从西往东走。警方初步调查显示Uber的无人驾驶汽车并无过错。

这是全球首例自动驾驶车辆致行人死亡的事故。案件调查结果表明，车辆的自动驾驶模式设计无明显缺陷，行人系突然之间推车经过，但具体事故责任难以界定。但事故毕竟发生了，需要有人来承担责任。传统责任理论中，法律责任分为“过错责任”和“无过错责任”，其中“过错责任”是最为普遍也是占主导地位的法律责任形式。但进入人工智能（Artificial Intelligence，AI）时代后，AI系统已经可以在人类的操作和监督之外独立完成部分工作，而机器自主性操作造成的损害该如何来判断并划分责任呢？是程序设计者、制造商、权利人、使用者，还是机器本身？这种情况下，传统的责任界定理论似乎陷入了困境。

当我们还在为“是应该鼓励还是扼制数字智能的发展”争论不止的时候，数字时代所产生的更高阶、更深层的种种问题已猝不及防地扑面而来。

我们该如何面对？

经济基础决定上层建筑。新型经济关系和社会关系给传统法学理论、法律制度和司法体系带来极大冲击和挑战。

既有法律规则难以有效涵盖和调整新的法益

以数字经济为基础的人工智能时代，从生产生活方式到商业运营模式，经济发展业态开始全面迈向去中心化的分布式升级，从自动驾驶到股权分配，再到人力资源配置等一系列重大决策权，正从人手中转移到算法手中。同时出现的还有虚拟财产、智能合约（区块链底层）、数据权利、网络生态安全、智能机器人行为等新的法律关系和法益，再通过现有法律概念和规则来调整，难免出现捉襟见肘的尴尬。

比如，法律主体作为法学上的一个重要范畴，不仅指现实的人，更是对人的本质的一种法律抽象，目前主要包括自然人、法人和其他组织三类。然而在人工智能的拟人化或者说智能化程度不断提高的同时，新的问题出现了：其一是人工智能实体的法律主体资格问题，它究竟是法律关系中的主体还是客体？二是主体类型化问题。若是将人工智能纳入法律主体的范畴，应如何归类？行为能力、责任能力又如何分级？从世界范围来看，未来赋予强智能机器人一定的主体地位是大势所趋，目前各国都在机器人立法方面进行积极尝试。例如，2017年10月25日，沙特阿拉伯正式授予机器人Sophia以公民资格。

既有法律逻辑难以顺利适用

当今主流法律体系来源于工商业革命进程，在新场景下必然会出现难以适应的困境。

民商法领域

首先是数据权的属性问题。数据资源日益成为重要生产要素和社会财富，各大互联网公司之间的数据之战从未停止过。但数据和信息的性质、分类、权属、使用规则和法律责任等，在现有的民商法规则中难以获得有效说明，司法实务中更多采取行为保护（不正当竞争）或法益保护（商业秘密），而非直接的数据财产（权利）保护。

其次是隐私保护问题。此时，个人隐私数据保护将面临互联网、大数据与人工智能三者叠加的风险，未来也许不再会有绝对意义上的隐私存在。用户在使用人工智能产品的同时极可能成为个人信息及隐私的直接“泄密者”，而对数据处理者和使用者又缺乏制约与监管，导致大量的隐私数据处于无法律保护的“裸奔”地带。因此，人工智能产品使用过程中产生数据的性质和权利归属，人工智能产品数据收集和使用行为，智能产品生产商、网络运营商的权利义务等，都亟需立法来予以明确。

再就是人工智能作品的权属问题。美联社与AI公司合作研发的人工智能新闻写作平台Wordsmith，如今已可以达到每季度几千篇新闻稿件的产量；腾讯公司开发的新闻写作机器人不仅能批量撰写财经类新闻报道，还能根据不同受众群体生成差异化的风格和版本。微软小冰也推出了诗集《阳光失了玻璃窗》。随着人工智能在新闻、音乐、美术等领域的应用日渐广泛，其创作作品的知识产权归属问题也逐渐进入公众视野。传统著作权法理论认为，作品是作者人格的体现，只有自然人才能创作作品。而现在，人工智能创作作品向这一理论发起了挑战。

此外，欧盟在2018年出台的《通用数据保护条例》（GDPR）中设置了删除权（被遗忘权）、可携带权、免受自动化决策权（数据画像）、访问权等新型权利。可以预见，未来很可能会有包括但不限于上述的种种新型权利，将被更多的法律体系所明确。

刑法领域

一是虚拟财产的认定问题。虚拟财产长期以来处于物权、债权还是知识产权的属性之争，针对虚拟财产（如稀缺账号、电子货币）的侵财行为多被认定为计算机领域的犯罪，并且处罚相对较轻，这就难以对窃取数据信息、侵犯虚拟财产、刷单炒信等行为实施有效规制。2017年民法总则将计算机数据、网络虚拟财产纳入保护范围，网络虚拟财产终于有了认定依据。但虚拟财产的“数额”“情节严重”又当如何认定，至今仍没有明文规范。在人工智能时代，数据信息成为社会生活基本要素，数字货币的流通使用只是时间问题。对虚拟财产的全面法律认定问题，迫切需要得以解决。

二是传统法律逻辑理论的障碍问题。最典型的是“人工智能是否存在过失犯罪”，过失犯罪的理论在人工智能主体身上还能否适用？比如，本文一开始描述的自动驾驶场景还能否适用交通肇事罪？如果不适用，那可能会出现在相同伤害结果前提下，“人驾驶车有过失就是交通肇事罪，机器驾驶有过失反而无罪”的逻辑悖论。同样的问题还有可能发生在智能医疗背景下的医疗事故责任认定上。

三是涉互联网和新技术犯罪的刑事规制滞后。我国现行刑法是1997年修订的，到2015年共有过九次修正，但总体框架变化不大。在全部的451条罪名中，除去借助网络施行的传统犯罪，专门针对计算机犯罪的仅有第285条、第286条，并且还是按照物理空间思维来“外在化”地设定犯罪构成，未能客观反映数据信息属性和智能互联的运行逻辑。还有，随着高度自主性人工智能产品的日益普及，给国家安全、公共安全和个人安全都可能带来严重威胁，也需要相关的法律规制。

在人工智能时代，借助新技术的网络犯罪会加速发展，造成的损害和影响也会越来越大。但现有刑法框架下，连一些较为常见的网络犯罪都普遍存在法律适用难的问题，遑论更新型、更隐蔽、更智能化的犯罪。例如，破坏计算机信息系统的入罪还停留在“造成十台以上系统主要软硬件不能正常运行”此类的认定标准上，而实践中，对于目前全球最为普遍的DDoS网络攻击，却由于损害结果难以认定等原因，打击起来困难重重。随着AI设备与物联网的高速发展，DDoS的新宿主平台不断出现，自动化程度也越来越高，在巨大利益的诱惑下，来自网络安全的威胁也将与日俱增。

行政法领域

在人工智能发展前期，对于人工智能的基础开发利用，基本是由各互联网企业、研究机构进行自行探索研究和开发，相关的行政管理介入较少。随着产业的逐步深入发展，对行政管理的需求也日益增加，需要通过行政许可、行政监督和行政处罚等手段来规范人工智能领域的无序发展和竞争。

同时，数字信息经济的发展也给传统行政法理念、规则带来冲击。新经济社会结构中处处渗透着参与性、分享性和普惠性，它既有扁平化和去中心化的需求，反过来又造就了以各大平台生态圈的“再中心化”。它们基于自身运营发展需要会进行自主管理和秩序维护，反而国家由于无暇也无力监管，将部分规则制定权、审查管理权让渡给了各个网络平台。比如网络安全法、反恐法、《电信和互联网用户个人信息保护规定》等法律规章所要求的“实名认证”“信息审查”等监管权，就包括制定平台规则、处罚违规行为、解决平台纠纷等“准立法”“准执法”权力，这些行政管理职能的实际行使，多半得依赖于平台本身。

此外，“淘宝小二叫板工商总局”等事件中暴露出的，关于售假是线上问题还是线下问题，是政府监管责任还是电商平台责任的争论，也凸显出行政法理论与规制逻辑遇到的全新难题。

司法实务面临的困扰

一是传统管辖原则的失灵。由于互联网技术所筑起的网络空间具有超越现实领土与自然国界的虚拟性，使得传统的级别管辖和地域管辖出现盲区，迫使我们不得不重新思考网络空间的法律效力。

二是新型犯罪的隐蔽化、智能化和跨境化，使得建立在地域和级别管辖基础上的司法体系难以应对，打击成本高，效率低。实践中，GDPR通过其属人化的数据保护设定，突破了以往的主权管辖范围，有一定可取之处，但同时也无法避免与现有国际司法制度间的冲突。

三是日益复杂的法律关系以及社会进步的需要，给司法水平和司法效能带来全新的挑战。法官往往会因为专业知识的欠缺，难以就复杂的事实问题进行认定，只能在审判过程中依赖专家证人或拥有专业知识的一方当事人，这无形中可能会导致法官偏离了传统的法律问题，陷入陌生的领域，难以作出准确裁判。