自动驾驶汽车对法律的挑战

2018-05-15 10:14
中国法律评论 2018年2期
关键词:驾驶员网络安全自动

江 溯

北京大学法学院副教授

或许很多人都曾经幻想,或者在科幻片中看到过,有一天,作为人类的我们不再需要自己驾驶汽车,而是惬意地在车上睡觉、听音乐、刷朋友圈、浏览文件甚至谈情说爱。近年来,得益于人工智能尤其是深度学习的发展,汽车行业开始迅速地迈向自动驾驶的方向。除了传统的车企例如奔驰、大众、沃尔沃等以外,谷歌、百度等科技公司在自动驾驶汽车的研发方面都取得了令人瞩目的成就。根据前瞻产业研究院发布的《2018—2023年中国无人驾驶汽车行业发展前景预测与投资战略规划分析报告》数据显示,2025年全球无人驾驶汽车销量将达到23万辆,2035年将达到1180万辆,届时无人驾驶汽车保有量将达到5400万辆。其中,2035年4级完全无人驾驶汽车每年销量可达到480万辆。同时,到2035年,北美在无人驾驶汽车市场上的份额将达到29%,中国为24%,欧洲为20%。

与传统汽车相比,自动驾驶汽车具有诸多明显的优势:第一,自动驾驶汽车将会大量减少交通事故的发生,从而避免大量的人员伤亡。全球每年大约发生217万起交通事故,约124万人死于交通事故,70%的原因都是酒后驾驶、超速驾驶、疲劳驾驶等。1杨澜:《人工智能真的来了》,江苏凤凰文艺出版社2017年版,第169页。由于自动驾驶汽车不存在这些造成事故的人为因素,因此会大大减少事故的发生率。第二,自动驾驶汽车与共享经济模式结合在一起,可以极大地减少私人保有汽车的数量,有效缓解交通拥堵问题,节省人们的通勤时间和成本,并且有效解决空气污染问题。第三,自动驾驶汽车还可以帮助更多的人享受便利的个人出行,特别是老年人、视力受损的人或因其他身体原因不能亲自驾驶汽车的人。2[美]利普森、库曼:《无人驾驶》,林露茵、金阳译,文汇出版社2017年版,第22—23页。作为新一轮人工智能大潮中最大的应用场景,自动驾驶汽车在未来将会对经济、社会、文化等产生深远影响。3亿欧智库:《2017年中国自动驾驶汽车产业研究报告》,载https://www.iyiou.com/intelligence/report534 ,2018年3月10日访问。

在讨论自动驾驶汽车相关的法律问题之前,有必要了解自动驾驶汽车的等级划分。所谓自动驾驶汽车,是指能够在某些具有关键安全性的控制功能方面(如转向、油门或制动)无需驾驶员直接操作即可自动完成控制动作的汽车。关于自动驾驶汽车的分类,在国际上存在一些不同的标准,目前普遍采用的是国际汽车工程师学会(SAE)的分类标准。这一分类标准将汽车的智能等级分为六级:L0:无自动化,需要驾驶员完成全部驾驶任务;L1:协助驾驶,由驾驶员操控汽车,配有个别辅助驾驶功能;L2:半自动驾驶, 配有多项自动驾驶功能,但驾驶员必须在任何时间观察驾驶环境并执行驾驶任务;L3:附条件自动驾驶,驾驶员必须在汽车内,虽然不需要观察驾驶环境,但必须在取得提示后及时恢复对汽车的人工操控;L4:高度自动驾驶,汽车能够在一定条件下进行自动驾驶;L5:完全自动驾驶,汽车能够在任何条件下进行自动驾驶。从L1到L5的整个阶段都可以称为自动驾驶。在L1、L2等级,汽车的自动驾驶系统只作为驾驶员的辅助,但能够持续地承担汽车横向或纵向某一方面的自主控制,完成感知、认知、决策、控制、执行这一完整过程,其他如预警提示、短暂干预的驾驶技术(ADAS)不能完成这一完整的流程,不在自动驾驶技术范围之内。L3是一个具有重要意义的过渡阶段,进入这个阶段之后,汽车开始主要由自动驾驶系统监控车辆的行驶。需要注意的是,虽然在这个阶段主要由汽车自主控制,但驾驶员应当根据系统提示随时接管汽车。真正意义上的无人驾驶专指L4、L5等级:在这两个阶段,汽车能够在限定环境乃至全部环境下完成全部的驾驶任务。4“SAE Levels of Driving Automation”, http://cyberlaw.stanford.edu/blog/2013/12/sae-levels-driving-automation,accessed on March 20, 2018.

汽车智能等级(SAE等级)

一、自动驾驶的法律地位

自动驾驶汽车面临的首要问题是:传统汽车的驾驶主体是人类驾驶员,但在自动驾驶的情况下,人类驾驶员的角色会发生变化。在L3等级的情况下,人类会变成驾驶辅助者,在绝大多数时候,不需要人类的介入,汽车可以自主行驶,只是在个别紧急的情况下才需要人类接管;在L4、L5等级的自动驾驶的情况下,汽车连方向盘、油门和刹车都没有,人类就会彻底变成乘客。但是,传统的交通法律体系以人类驾驶员为主体建构,各种责任规则以及保险制度都是围绕人类驾驶员来设计的。在自动驾驶时代,由于汽车本身具备了高度的自主性,因此必须首先确立自动驾驶系统本身的法律地位,否则就会给路测和法律责任认定等造成困难。

在汽车驾驶领域通行的国际公约是《维也纳道路交通公约》(以下简称《公约》)。1968年签署的《公约》第8条规定,凡行驶的车辆或车辆组合必须有一名驾驶人,且凡驾驶人应随时能够控制其车辆。考虑到该条规定极大限制了自动驾驶汽车的发展,联合国欧洲经济委员会于2016年3月通过修正案修改了《公约》的上述规定。新的《公约》规定,在自动驾驶系统全面符合联合国车辆管理条例以及驾驶员可以手动选择关闭自动驾驶系统的前提下,驾驶员可以将车辆的驾驶职责交给自动驾驶系统。这一新规定正式确立了自动驾驶系统的法律地位,为欧洲各国的自动驾驶汽车产业发展奠定了坚实的基础。5参见夏智华:《我国自动驾驶汽车法律的破与立》,载http://www.sohu.com/a/205505267_524185,2018年3月9日访问。

近年来,欧美各国不断通过立法确立自动驾驶的法律地位。例如,2017年,德国联邦议会颁布了《道路交通法第八修正案》。根据这一修正案,在自动驾驶系统接管状态下,驾驶员可以不对交通状况和车辆进行监控,但是驾驶员仍需时刻保持清醒戒备状态准备随时接管。在自动驾驶系统向驾驶员发出接管请求以及当驾驶员发现自动驾驶系统不能正常工作时,驾驶员应立刻接管车辆。6参见何姗姗:《美国与德国:自动驾驶的两种立法探索》,载http://www.ftchinese.com/story/001074387,2018年3月9日访问。在美国,截至2017年4月,已有13个州(特区)生效了31条针对自动驾驶汽车的交通法规,其他大部分州政府也纷纷进行自动驾驶汽车相关法律法规的制定工作。在联邦层面,2017年9月,美国众议院批准了《自动驾驶法》,该法案草案旨在发挥联邦职能,通过鼓励自动驾驶汽车的测试和研发以确保车辆安全。7蔡雄山、曹建峰、王一丹:《美国首部“无人驾驶法案”的核心与启示》,载https://www.leiphone.com/news/201709/K592MeEJWg98Dap7.html ,2018年3月15日访问。除了上述国际公约和美国、德国的最新立法以外,英国、法国、加拿大、澳大利亚、芬兰、瑞典等国家也纷纷在立法层面上展开探索,颁布了关于自动驾驶汽车的法律。这些法律不仅涉及自动驾驶汽车的路测,而且涉及自动驾驶汽车商用之后的各个方面,包括责任分担、保险制度、隐私保护、网络安全等。

从目前我国的现行立法来看,全面部署自动驾驶汽车仍然存在诸多法律障碍。据不完全统计,自动驾驶汽车的全面部署,至少需要修改我国七个领域(包括交通安全管理、测绘、运输、信息、通讯、质检、标准化)24部以上的法律。8参见张丽君:《各国自动驾驶汽车法律政策发展及启示》,载http://www.transformcn.com/Topics/img/site22/20180131/c81f661ac99e1bdbcd9e0e.pdf,2018年3月10日访问。例如,《道路交通安全法》第19条规定:驾驶机动车,应当依法取得机动车驾驶证。《道路交通安全法实施条例》第19条规定,符合国务院公安部门规定的驾驶许可条件的人,可以向公安机关交通管理部门申请机动车驾驶证。由此可见,在我国车辆的驾驶主体应当为符合驾驶许可条件并取得驾驶证的自然人,自动驾驶系统显然不能成为车辆的驾驶主体。9夏智华:《我国自动驾驶汽车法律的破与立》,载http://www.sohu.com/a/205505267_524185,2018年3月9日访问。为了解决自动驾驶汽车上路的合法性问题,北京和上海两地分别出台了关于路测的规范性文件,均规定在符合相关条件的前提下,允许具有“自动驾驶”功能的汽车上路测试,但要求测试员必须始终坐在驾驶员的位置,对测试车辆进行监测,并且在紧急情况下随时准备接管车辆。10参见北京市交通委员会、北京市公安局公安交通管理局、北京市经济和信息化委员会:《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见(试行)》和《北京市自动驾驶车辆道路测试管理实施细则(试行)》(2017年12月18日);上海市经济和信息化委员会、上海市公安局、上海市交通委员会:《上海市智能网联汽车道路测试管理办法(试行)》(2018年2月22日)。虽然北京和上海关于路测的规范性文件确立了自动驾驶的合法性地位,对于推动自动驾驶汽车产业的发展具有重要意义,但这些文件在立法上是否与《道路交通安全法》相抵触,仍然是值得思考的问题。在某种程度上,关于路测的规范性文件只是解决自动驾驶合法地位的权宜之计,根本的解决之道仍在于全面修订《道路交通安全法》的相关规定,以便适应未来自动驾驶汽车的全面部署。一个全面的法律体系会更加有利于自动驾驶汽车产业的发展,自动驾驶汽车的立法应当具有一定前瞻性,既要着眼于目前L2和L3等级的自动驾驶汽车,也要兼顾未来L4和L5等级的自动驾驶汽车的法律规制。

二、自动驾驶的民事归责

尽管自动驾驶汽车具有比传统汽车更高的安全性,但事故仍然在所难免。2016年发生在美国11《自动驾驶事故致死 特斯拉官方作出声明》,载http://auto.people.com.cn/n1/2016/0702/c1005-28517713.html ,2018年3月15日访问。和中国12《国内首起特斯拉自动驾驶致死事故揭秘》,载http://m.news.cctv.com/2016/09/14/ARTIO80nLAhX0ezuWjLstquq160914.shtml,2018年3月15日访问。的特斯拉汽车交通事故,引起了人们的广泛关注。最近发生在美国亚利桑那州的优步自动驾驶汽车致人死亡事件,更是引发全球的热议。13《刚刚,Uber发生全球首例自动驾驶致死事件》,载https://www.jiqizhixin.com/articles/03201,2018年3月15日访问。从我国现行法的角度,在自动驾驶汽车造成人身伤亡或者财产损失的情况下,有两种可能的民事归责路径:第一是以未尽到合理注意义务为由追究使用者的侵权责任;第二是以产品具有缺陷为由追究生产者的产品缺陷责任。对于L3等级的自动驾驶汽车而言,由于驾驶员被期望能及时响应系统请求接管车辆,因此,如果驾驶员没有响应系统请求及时接管车辆造成事故的,应当由驾驶员承担侵权责任。如果因系统没有发出请求要求驾驶员接管车辆而发生事故,那么根据我国《侵权责任法》第41条“因产品存在缺陷造成他人损害的,生产者应当承担侵权责任”的规定,制造商应当对事故造成的损失负责。此外,即使系统没有发出请求,但如果驾驶员应当意识到或者已经意识到危险,其也应当接管车辆,以避免事故的发生,否则驾驶员应与制造商共同承担责任。在这种情况下,为了更好地保护受害人的利益,驾驶员与制造商应当承担连带责任。

但问题是,当自动驾驶汽车发展到L4和L5等级的时候,传统的侵权责任和产品责任的规则可能就会面临极大的挑战。L4和L5等级的无人驾驶汽车是真正意义上的“四个轮子之上的机器人”,它们具有高度自主学习的能力,可以在不需要人类介入的情况下,以人类无法预见或者控制的方式作出自我决策,这就会导致在认定侵权责任和产品责任上的困境。

首先,从侵权责任的角度上看,在L4和L5等级的自动驾驶汽车中,即使人类处于驾驶的位置,其身份也不再是驾驶员而是乘客,在汽车驾驶的过程中,人类可以在汽车内随心所欲,只要其不干扰汽车的自动驾驶系统,那么就不需要尽合理的注意义务。因此,L4和L5等级的自动驾驶汽车造成损害的情况下,无法以侵权法上的过错责任原则来追究人类的责任。

义123块空气渗透率0.91×10-3μm2,对应注水启动压力20MPa/(100m)以上,难以进行注水开发,应立足于进行天然能量开采。且本块目的层埋藏深、储量丰度低、含油井段集中、各小层纵向叠合程度较好,故采用一套层系进行开发。对于油层分布集中、整体厚度较薄的致密浊积岩油藏,长井段多级压裂水平井技术在储量控制程度及单井产能上具有明显优势,水平井轨迹参数的优化包括3个方面:水平段方向、纵向位置以及长度的优化。

其次,从产品责任的角度上看,一般认为其为无过错责任,只要产品存在缺陷,生产者就应当承担责任,无须证明其存在过错。作为产品责任之核心的产品缺陷,通说认为包括设计缺陷、制造缺陷和警示缺陷。我国《产品质量法》第46条规定了产品缺陷的认定标准:“不合理危险”标准和产品质量标准。此外,《产品质量法》为产品生产者提供了免责事由,包括未将产品投入流通;产品投入流通时,引起损害时的缺陷尚不存在;以及将产品投入流通时的科学技术水平尚不能发现缺陷的存在。只要产品生产者能够证明存在免责事由,就无须承担赔偿责任。如果被侵权人的损害可以归因于自动驾驶汽车的制造商的人为失误而造成的产品缺陷,那么完全可以按照现行《产品质量法》追究其赔偿责任。这主要出现在自动驾驶汽车因不符合国家标准或者行业标准而被认定为存在产品缺陷,从而造成损害的情形。但是,在自动驾驶汽车具备高度的自主判断能力的情况下,由于算法的可预测性、可解释性大打折扣,算法与损害之间的因果关系难以证明,因此很难将事故归责于自动驾驶汽车的设计缺陷或者制造缺陷。14司晓、曹建峰:《论人工智能的民事责任:以自动驾驶汽车与智能机器人为切入点》,载《法律科学》2017年第5期。在这种情况下,受害人的损害可能无法根据《产品质量法》得到补偿。

在《侵权责任法》与《产品质量法》均无法提供有效救济的情况下,可以考虑的是参考英国的相关立法,设立专门针对自动驾驶汽车的保险。2017年2月,英国政府出台新的汽车保险法规,要求汽车强制性保险必须覆盖自动驾驶汽车,当自动驾驶汽车发生事故时,第三方受害者由保险公司先行赔付,保险公司有权依据产品责任法等现行法律规定向汽车制造商追偿。这是全球首部关于自动驾驶汽车保险的法案。15《英国出台新条例 要求自动驾驶保险“全覆盖”》,载http://auto.huanqiu.com/globalnews/2017-02/10211256.html ,2018年3月15日访问。在自动驾驶汽车造成损害的情况下,受害人当然必须得到补偿。但是,由于人类由驾驶员转变为乘客,因此当发生事故的时候,如果要求人类承担责任,显然不合理。而且,如果过分地加重自动驾驶汽车厂商的责任,就会影响厂商将自动驾驶汽车予以商业化的积极性和创造性。自动驾驶汽车保险有利于平衡相关利害各方的利益:保险公司需要熟悉自动驾驶汽车并开发设计相应保险产品,前期会给保险公司带来一定增量的管理费用,包括产品开发、IT改造、人员培训、流程再造等,但综合考虑厂商(加速自动驾驶汽车落地)、车主(购买和使用成本足够低)、交通事故受害者(快速理赔)、社会管理机构(管理成本低)等各方面的利益,这一方案的改造成本相对较低,不失为目前可能采取的最佳方案。当然,自动驾驶汽车可能会对保险制度产生颠覆性影响,保险产品具体如何设计,仍然需要深入研究。

三、自动驾驶的刑事归责

在自动驾驶汽车造成人身或者财产损害的时候,是否应当考虑刑事责任的问题?应当由谁来承担刑事责任?如果行为人故意利用自动驾驶汽车实施法益侵害行为,我们当然可以借助现有理论如间接正犯理论来说明行为人承担刑事责任的根据,但如果所涉及的是过失犯罪,情况就会变得比较复杂一些。

在L3等级的自动驾驶汽车的情况下,由于驾驶员仍然被期待随时接管汽车,因此如果因为驾驶员疏忽大意或者过于自信而未能接管汽车,最终导致法益侵害结果,那么应当由驾驶员承担过失犯罪的责任。如果不是因为驾驶员的过失,而是因为生产者或者设计者违反国家标准或行业标准,将自动驾驶汽车投放市场,因而造成法益侵害结果,那么应当由生产者或者设计者承担刑事责任。

但问题是,如果所涉及的是L4和L5等级的自动驾驶汽车,过失犯罪的刑事责任认定就会出现困难。一种可能的理论是让作为机器人的自动驾驶汽车自行承担刑事责任。不可否认的是,在L4和L5等级的自动驾驶汽车的情况下,机器人具有高度自主的判断能力,但这并不意味着以人类为处罚对象的刑法可以适用机器人。人类的本质在于具有自我意识并具有自我反思能力,虽然机器人具有自我学习并自我决策的能力,但至少从目前的状况来看,由于强人工智能尚未出现,因此机器人还不具有自我意识或者自我反思的能力。在这个意义上,机器人所实施的纯粹物理意义上的行为,不能被视为与人类的行为具有同等意义;机器人亦不具有意志自由,缺乏认知不法的能力,因此不具备刑法要求的罪责。16Gless, Weigend, “IntelligenteAgenten und das Strafrecht”, ZSTW,Vol.126,Issue 3(2014),pp.566-579.而且,目前针对人类所设定的刑罚如死刑、自由刑、财产刑以及资格刑,均无法妥当地适用于机器人。因此,至少从目前的状况来看,将自动驾驶汽车作为刑事责任的主体是非常困难的。当然,随着人工智能的发展,未来可能出现具有自我意识、权利意识或伦理感情的机器人。如果那样的时代到来,人类应当考虑将机器人作为行为主体,甚至为机器人专门设计惩罚措施。17参见刘宪权:《人工智能时代的刑事风险与刑法应对》,载《法商研究》2018年第1期。

如果自动驾驶汽车暂时不能作为过失犯罪的刑事责任主体,那么是否可以考虑追究其背后的使用者、生产者或者设计者过失犯罪的刑事责任呢?这里需要探讨的核心问题在于使用者、生产者或者设计者是否违反了注意义务。作为认定注意义务的前提,必须证明使用者、生产者或设计者对法益侵害的发生存在预见可能性或避免可能性。由于使用者、生产者或设计者不可能预见到自动驾驶过程中的所有意外情形,因此在法益侵害结果出现的情况下,不能认定其存在预见可能性或避免可能性。而且,在自动驾驶的情况下,并非程序员不事先设定固定的操作规则,而是允许汽车自主根据对数据的分析来作出判断。换言之,自动驾驶汽车的判断缺乏事前的预见可能性或避免可能性,恰恰是其最重要的特征。在这个意义上,我们就不能因为自动驾驶汽车造成了法益侵害而追究其背后的使用者、生产者或设计者的过失责任。过失犯的注意义务并非一般的、抽象的注意义务,即不能因为使用、生产或设计自动驾驶汽车可能侵害法益,就当然地追究使用者、生产者或者设计者的过失责任。如果是这样,就无异于在刑法上承认严格责任。只有当使用者违反了操作规程,或者生产者、设计者违反了国家标准或行业标准的情况下,才能认定其违反了注意义务。这意味着,在使用者严格遵循操作规程、生产者、设计者严格遵照国家标准或行业标准的情况下,就无法认定其违反注意义务,从而不能追究他们的过失责任。今后,随着无人驾驶汽车的广泛运用,由于其所带来的社会利益巨大,因此其对社会造成的危险完全可能转化为一种“允许的风险”(日常生活的风险),从而不能将其所造成的损害归责于使用者、生产者或设计者。18Gless, Weigend, “IntelligenteAgenten und das Strafrecht”, ZSTW,Vol.126,Issue3(2014),pp. 579-591.

四、隐私与数据保护

为了保证安全行驶,自动驾驶汽车必须不断地收集各种数据,这些数据既包括与人身安全、交通安全相关的汽车及其周围环境数据、汽车功能状态数据、汽车行驶、位置和环境数据等技术数据,也包括驾驶员或乘客的个人数据信息,如娱乐信息设置、便捷设置、导航目的地以及常用地址等,甚至包括其他无关的行人的数据。如果这些个人数据信息被企业或者个人不当利用,就可能产生对个人隐私的侵害。在美国和欧盟的相关立法中,个人隐私与数据的保护具有非常重要的地位。例如,在2017年美国众议院通过的《自动驾驶法案》中规定:自动驾驶汽车的生产厂家必须制定“隐私方案”,说明其如何收集、使用、分享和存储自动驾驶汽车用户的信息。对于不希望共享自己数据的用户,生产厂家应当有相应的处置方案。对于留存的用户信息,生产厂家应当通过数据缩小化、去识别化等方式防止信息的泄露。除此以外,该法案还要求自动驾驶汽车的生产厂家必须向用户提供该厂家的隐私权规则。上述关于隐私权的条款将于不迟于该条款制定之日起的180天之内开始生效,以推动各汽车厂家尽快制定各自的隐私方案。19蔡雄山、曹建峰、王一丹:《美国首部“无人驾驶法案”的核心与启示》,载https://www.leiphone.com/news/201709/K592MeEJWg98Dap7.html,2018年3月15日访问。2016年通过并将于2018年正式生效的欧盟《通用数据保护条例》为个人信息的收集和使用规定了合法、公平和透明原则、目的限制原则、数据最少化原则、准确性原则、存储限制原则、完整和保密原则以及责任原则,并赋予数据主体包括获取信息权、修正错误信息权、信息移动权、遗忘权、限制信息使用权、限制程序分析权等在内的多项权利。数据控制人或数据使用人有义务遵守各项原则并保证数据主体实现相应的权利。此外,数据控制人或数据使用人还要积极采取技术措施、进行隐私影响评估、指定数据保护联络人、遵守个人信息泄露后的通知义务,从技术上和管理上降低隐私侵权风险及隐私侵权给数据主体带来的损害,否则将承担巨额的罚款。20《欧盟通用数据保护条例详解》,载http://www.sohu.com/a/110154040_353595,2018年3月15日访问。

近年来,我国个人信息立法不断推进,已经取得了一定成果。例如,2012年全国人大常委会通过《关于加强网络信息保护的决定》,确立了个人信息保护的若干原则。2013年通过修订的《消费者权益保护法》,对消费者信息保护作出了相关规定。2009年、2015年先后通过《刑法修正案七》和《刑法修正案九》对侵犯公民个人信息的犯罪行为作出规定。2016年通过的《网络安全法》确立了个人信息保护的基本规则:合法正当,即网络运营者收集适用个人信息必须出于正当目的,采用合法形式;知情同意,要求网络运营者公开隐私政策,获得用户同意;目的限制,即网络运营者不得超过范围收集、不得违法和违约收集;安全保密,即网络运营者不得泄露毁损个人信息,要采取预防措施和补救措施防止个人信息事故;删除改正,即网络运营者应当应个人要求删除违法、违约信息,改正有误信息。2017年通过的《民法总则》第111条规定:“自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。”这些法律规范为自动驾驶汽车场景下的个人信息和数据的保护提供了基本法律保障。

除了法律规范本身提供的保障以外,从各国关于个人信息和数据的保护立法来看,通过立法确立“匿名化处理”等技术手段,以便更好地保护个人信息和数据,已经成为一种重要的趋势。所谓匿名化,是指将个人数据移除可识别的个人信息部分,通过这一方法,数据主体不会再被识别。21参见腾讯研究院等:《人工智能:国家人工智能战略行动抓手》,中国人民大学出版社2017年版,第238页。匿名化技术发展的初衷是为了在数据利用的过程中,降低个人隐私风险。欧盟《通用数据保护条例》的引言中指出,匿名化数据不属于个人数据,因此无须适用条例的相关要求,机构可以自由处理匿名化数据。我国《网络安全法》第42条规定:“网络运营者不得泄露、篡改、毁损其收集的个人信息;未经被收集者同意,不得向他人提供个人信息。但是,经过处理无法识别特定个人且不能复原的除外。”这是一种类似匿名化处理的规定。当然,正如我国学者所指出的那样,我国还需要在此基础上加快建立数据匿名化处理和使用的法律规范,包括明确匿名化数据的法律概念和认定标准,强调数据不再具有身份可识别性;引入隐私风险评估机制,鼓励企业基于个案在内部实施数据匿名化的风险评估,并基于评估结果,适时调整匿名化策略;利用合同规范、技术保障等多重工具实现数据的真正匿名化;建立数据匿名化的事前、事中和事后的规范体系。22参见腾讯研究院等:《人工智能:国家人工智能战略行动抓手》,中国人民大学出版社2017年版,第238—239页。

五、自动驾驶与网络安全

随着互联网、人工智能、云计算和大数据等技术的应用,自动驾驶汽车的智能化、联网化程度越来越高,汽车已经变成名副其实的万物互联时代的智能终端设备。自动驾驶汽车的网络安全已经成为互联网安全的重要组成部分,用于控制自动驾驶汽车的手机应用、内部复杂的传感器控制系统、软件漏洞都有可能成为新的风险点,黑客针对自动驾驶汽车发动大规模攻击绝不仅仅是在科幻片中才会出现的场景。23除了可能的远程攻击,基于获取商业利益的目的,或者企图控制自动驾驶汽车系统以获得赎金,甚至为了通过控制自动驾驶汽车达到造成大规模损害的目的,在未经授权的情况下监控并获取汽车定位数据等网络信息,都会对自动驾驶汽车的网络安全造成极大的危害。2015年7月,“白帽黑客”查理·米勒(Charlie Millér)和克里斯·瓦拉塞克(Chris Valasek)演示了如何通过入侵克莱斯勒公司Uconnect车载系统,以远程指令方式“劫持”正在行驶中的Jeep自由光,并最终导致其“翻车”。24《无人驾驶汽车会沦为黑客“玩物”吗?》,载http://epaper.xxsb.com/html/content/2017-10/15/content_715226.html,2018年3月12日访问。在2017年上映的电影《速度与激情8》里,电影人物通过入侵自动驾驶汽车,控制上千辆无人驾驶汽车组成了一支庞大的“僵尸车”军团,其超强的破坏能力引发人们深入思考自动驾驶汽车的网络信息安全问题。

自动驾驶汽车的网络安全问题引起了欧美监管机构的高度重视。近年来,这些国家和地区的监管机构通过发布指引或者最佳实践,以期应对自动驾驶汽车的网络安全问题。25关于美国、欧盟和英国的相关规定,参见肖马克、赵新华:《网络安全:自动驾驶汽车的阿喀琉斯踵?》,载http://www.kwm.com/zh/cn/knowledge/insights/cybersecurity-achilles-heel-for-self-driving-cars-20180308 ,2018年3月10日访问。从美国的情况看,2016年10月24日,国家公路交通安全管理局(NHTSA)发布了指导性的《现代车辆网络安全最佳实践》(NHTSA 最佳实践),旨在帮助汽车制造商和软件设计商提升现代车辆网络安全,并为如何防止、抵御网络攻击提供指引。NHTSA最佳实践指出,NHTSA将关注能够加强汽车电子系统抵御潜在攻击的方法,并确保即使汽车遭到攻击,车辆系统也能够采取适当、安全的行动。NHTSA最佳实践还建议,汽车制造商和设计商采用“多层方法”降低攻击成功的概率,并且降低未经授权的访问造成的影响。26《美国汽车网络安全最佳实践》,载https://www.easyaq.com/news/8286166.shtml,2018年3月10日访问。2017年9月,NHTSA发布了《自动驾驶系统2.0:安全展望》(ADS指南2.0),取代了2016年NHTSA发布的联邦自动驾驶汽车政策,建议汽车行业投入资源评估风险和测试车辆的网络安全隐患。27《自动驾驶系统2.0:安全展望》,载https://baijia.baidu.com/s?id=1584051865276734102&wfr=pc&fr=_lst,2018年3月10日访问。

欧盟同样高度重视自动驾驶汽车的网络安全问题。2017年1月13日,欧盟网络和信息安全部门(ENISA)发布了《智能汽车网络安全与适应力》的研究报告(ENISA指南),提出了应对网络威胁,保障智能汽车安全的最佳实践和建议。ENISA指南列举了智能汽车存在的敏感问题以及相应的威胁、风险、降低风险的因素和可以采取的安全措施。28《智能汽车网络安全的最佳实践》,载http://www2.caict.ac.cn/zscp/qqzkgz/qqzkgz_zdzsq/201702/t20170228_2188891.htm,2018年3月10日访问。

我国目前没有专门针对自动驾驶汽车网络安全的法律。《网络安全法》对“网络运营者”在网络安全方面提出了一系列要求和应当承担的责任,引入了“关键信息基础设施”这一新概念,并给网络产品和服务提供者设定了规范。由于自动驾驶汽车与互联网或者公共通信网络(如4G网)相连接,其可能会被认为是一种新型移动设备,因而《网络安全法》中的一般规定和要求应当适用于网络运营商或网络设备提供商。但是,由于《网络安全法》并非专门针对自动驾驶汽车,因此可能无法有效应对自动驾驶汽车的网络安全问题。2017年12月29日,我国发布了《国家车联网产业体系建设指南(智能网联汽车)》(最终指南),旨在为中国自动驾驶汽车创建国家标准。最终指南明确指出:功能安全和网络安全对于智能网联汽车来说同样重要。网络安全标准的建立必须能够保证车辆的安全性和可靠性。标准必须建立车辆通讯系统、数据、软件和硬件安全,以及车辆端口方面的风险评估、安全保护和测试要求,以保护车辆免受攻击、干扰、破坏、不法使用和事故。最终指南明确将要建立95个标准,其中20个标准与信息安全相关,包括车辆信息安全的一般技术标准,车辆信息安全风险评估指引和车辆数据安全保护和隐私保护的一般性要求。应当指出的是,自动驾驶汽车的网络安全是一个涉及车辆安全、联网安全、云平台安全和外部生态安全的完整体系,不仅需要从技术上加强每个环节的网络安全,29而且必须通过立法明确每个环节参与者的法律义务,以便实现维护自动驾驶汽车网络安全的目的。

六、结论

作为人工智能最大应用场景,自动驾驶汽车的发展备受关注。自动驾驶汽车具有诸多重要的优势,将会对人类社会的经济、社会、文化等产生重要影响。近年来,我国提出了大力发展自动驾驶汽车等人工智能产业的政策,力图在第四次工业革命中取得领先于世界的位置。包含自动驾驶汽车在内的人工智能将会对传统的法律体系构成严重挑战,我国应当在参考世界先进经验的基础上,结合中国的实际情况,制定或者全面修改相关的法律规范。在完善自动驾驶相关的法律规范之时,我们应当特别注意避免“刻舟求剑”的错误,应当根据科技发展的实际需求,制定既合乎人工智能本身的特征,又确保人类安全的规范。

猜你喜欢
驾驶员网络安全自动
基于高速公路的驾驶员换道意图识别
基于眼动的驾驶员危险认知
驾驶员安全带识别方法综述
自动捕盗机
网络安全
上网时如何注意网络安全?
让小鸭子自动转身
自动摇摆的“跷跷板”
关于自动驾驶
网络安全监测数据分析——2015年11月