无人驾驶汽车的伦理困境及法律规制*

2021-12-04 09:22杨丽娟耿小童

沈阳工业大学学报(社会科学版) 2021年4期

杨丽娟，耿小童

(东北大学文法学院，沈阳 110169)

无人驾驶汽车在改变人类出行方式的同时，也给人类社会带来了巨大的挑战[1]。当前，我国并未针对无人驾驶汽车进行系统规制。这种局面不仅不利于无人驾驶汽车行业的进步和无人驾驶技术的升级，而且难以保障社会活动行为主体的合法权利。无人驾驶汽车作为一项技术，为人类提供了科技方面的全新体验，但其引发的社会问题背后具有伦理和价值观的因素，而解决这些问题需要法律的介入。究其根本，其中的法律问题可视为伦理问题在现实生活领域的投射。而法律可以直接作用于现实生活，从微观层面对无人驾驶汽车引发的问题进行直接规制，因此可视为解决此类问题的最终手段。若对无人驾驶汽车带来的伦理难题仅停留在以伦理规约为解决方式的范畴内，则无法应对情况复杂、数量庞大的现实法律问题；若跳过对无人驾驶汽车伦理难题和伦理规约的探讨，则无法触及问题的根本，会失去立法的核心要义和理论基础，势必无法适应无人驾驶技术的进一步发展，不利于规避立法本身的滞后性。故只有从无人驾驶汽车的伦理难题入手，建立合理的伦理规约，并对这些伦理难题在立法体系中投射出的问题进行分析，进而进行法律规制，才能形成完整的问题解决链条，有针对性地提出法律规制建议，以期促进无人驾驶汽车技术向积极有利的方向发展。

一、无人驾驶汽车引发的伦理难题

1. 技术伦理难题

从科技伦理角度对无人驾驶技术进行分析，则无人驾驶技术相较于其他科学技术面临的伦理困境在属性方面有着自身的独特性。无人驾驶汽车在一定程度上就是通过技术手段表达出的伦理和价值观，而不仅仅是技术本身。以黑文斯为代表的一些学者认为，AI本身仅仅是被嵌入为实现目的而创造的代码的器物，由此得出无人驾驶汽车发展过程中不存在伦理困境这一观点。然而，这种看法恰恰从根源上证明了无人驾驶汽车问题的伦理性。程序员给无人驾驶汽车输入的代码和算法无法脱离伦理，同时人类给无人驾驶汽车设定的任务也并非价值无涉[2]。这些代码和算法体现了设计者的目标和偏好，其正是无人驾驶汽车伦理困境的根源。无人驾驶汽车进行机器的自我学习所习得的伦理规则是一种基于实然的描述性规则[3]，人类需要通过大量的数据植入对无人驾驶汽车进行“教授”。而在此过程中，人类需要确定一种规范性的伦理和价值观，以应对在汽车行驶过程中可能遇到的“电车难题”①等诸多可能危害到公民合法权利的挑战。因此，伦理困境贯穿了无人驾驶汽车作为技术的整个发展过程。正如计算机科学家罗素等在《人工智能：一种现代的方法》中指出的那样，我们不能将人工智能研究同它的道德伦理后果分离开[4]878。

无人驾驶汽车在解决了一些传统交通领域问题的同时，又带来了全新的社会问题。换言之，技术本身并不能通过自我完善解决相关的社会问题。诚然，技术的进步能够为社会发展过程中的个案性问题提供解决办法，但技术与伦理结合后的产物拥有伦理的复杂性，而此类杂糅了理性以及道德推理的复杂产物早已超越了技术范畴，直接触发了对伦理问题的探讨。无人驾驶汽车产生后即陷入的伦理困境恰恰可以作为实例，佐证技术不足以独立解决自身带来的社会问题。应当认识到，价值取向在技术伦理困境的解决过程中起着重要作用，因此不能将问题的解决全部寄望于技术的发展。如沃勒赫、艾伦主张赋予计算机道德推理功能，安德森等主张赋予计算机伦理选择自主权，都没有触及无人驾驶汽车伦理困境的实质。

在无人驾驶汽车发展领域对伦理问题进行考量，则解决问题的关键在于：通过无人驾驶技术表达人类价值伦理的过程中，不能放任生产者任意编写程序，对这一环节的介入至关重要[5]。同时应当认识到，这种介入具有层次上的递进性：首先应当针对这一技术发展过程中产生的伦理难题建立起一套合理可靠的伦理规约，而后据此制定法律，增强伦理规约的可操作性。

同时，怎样通过法律规制应对民用无人驾驶汽车带来的伦理困境，是民用无人驾驶汽车发展过程中遇到的重要问题。一些在此技术规制方面走在前列的国家已经对解决这一问题进行了尝试。例如，早在2017年德国就已将对个人的保护置于其他一切功利主义之上，出台了20条自动驾驶伦理规则[6]。目前必须通过法律对这种新型技术进行全方位的约束，否则很容易陷入伦理困境，引发诸多社会问题。换言之，从无人驾驶汽车的生产环节开始就需要对其进行法律规制，以便使之成为体现“善”的技术，解决基于技术局限、操作难题和商业利益偏好的算法的善恶问题[7]，使法律真正发挥保护公民生命财产安全的作用。

2. 风险伦理难题

正如霍金的预言：人工智能日益强大的威力使机器人能够复制自己，机器人对智能的自我学习能够导致转折点或“技术奇点”的来临。首先，无人驾驶汽车具有算法逻辑基础不确定的特点。无人驾驶汽车以高度严谨的算法为发展基础，而这种算法的学习方式可以类比人类的学习过程，都是由推理到演绎的两步走过程——前半程以相关性关系为基础推导出结论或模型，而后半程以上述结论或模型为基础对其他现象进行分析[8]。无人驾驶汽车以具有高度不确定性的算法作为基础，天生具有风险性。

其次，无人驾驶汽车技术的发展过程具有风险性。从总体上来看，技术发展产生的结果可以归纳为两大类，即“不可预测但在意料之中的(unpredictable but expected)”和“不可预测且在意料之外的(unpredictable and unexpected)”。由此可见，技术发展过程的不可预测性植根于内部，与技术本身相伴相生，无法得到纠正[9]136。在无人驾驶汽车运行过程中，其作为人工智能的典型代表，能够对行驶过程中的一些事项进行自主决定，如选择行驶路线、应对行驶中的一些具体事项等[10]。这种自主性随着无人驾驶汽车的发展逐级递增，发展到LV5水平的无人驾驶汽车将具备自主意识能力，随之而来的风险性将更加显著，但如何防控此种风险在立法领域仍是空白。

最后，无人驾驶汽车所运用的信息具有风险防控的必要性。无人驾驶汽车在运行过程中需要通过大数据系统获取大量的用户信息，该技术的发展与对用户隐私的获取是密不可分的。无人驾驶汽车在给使用者带来便利的同时，同样使其置身于巨大无形的“浏览器”之中，产生大量缓存数据。总而言之，无人驾驶汽车技术本身具有风险性和不确定性，在追求确定性的社会生活领域应考虑对其风险进行相对性限制。

二、无人驾驶汽车领域的法律缺位

国务院印发通知强调要“重点开发移动互联、量子信息、人工智能等技术”(1)《国务院关于印发“十三五”国家科技创新规划的通知》(国发〔2016〕43号)。，同时强调加快推动包括无人驾驶在内的具体应用领域行业协会的组建和有关标准的制定工作(2)《国务院关于印发新一代人工智能发展规划的通知》(国发〔2017〕35号)。。但目前我国无人驾驶相关立法基本都是针对无人航空飞行器的规制，尚未针对无人驾驶汽车进行专门立法。目前，我国已经出台的相关法律法规针对性不够，如《交通运输部办公厅关于贯彻落实交通运输行业标准〈营运客车类型划分及等级评定〉(JT/T325—2018)的通知》(3)交通运输部办公厅于2018年7月4日发布生效。和《关于印发深化道路运输驾驶员从业管理改革实施方案的通知》(4)交通运输部办公厅于2018年11月9日发布生效。等，仍未将无人驾驶汽车作为伦理和技术的结合体进行规制。

1. 缺乏相关法律法规规制

国务院印发通知强调，在“2020年掌握智能辅助驾驶技术，2025年掌握无人驾驶技术”(5)《国务院关于印发〈中国制造2025〉的通知》(国发〔2015〕28号)。，我国无人驾驶汽车将迎来迅速发展。无人驾驶汽车作为“弱人工智能”，具有自我学习的特点，其发展进化的速度和模式将是颠覆性的。而法律规范基于现实生活而来，且立法过程严谨，本身具有滞后性[11]。因此，只有采用前瞻性立法技术，对无人驾驶汽车可能引发的法律问题进行提前规制，才能有效发挥法律的保护作用。当前我国在无人驾驶汽车领域的立法数量严重不足，不仅难以有效管理和规制无人驾驶汽车的发展，而且难以解决无人驾驶汽车领域已经显现的法律问题。国际自动机械工程师学会(SAE)于2014年提出的分级标准，根据无人驾驶汽车的自动化程度将其划分为6个级别(6)按照汽车控制权归属及安全责任可对无人驾驶汽车在理论上进行细分，其中最详细的是国际自动机械工程师学会(SAE)提出的分级标准。SAE依据自动化和智能化程度的高低将高度自动驾驶汽车划分为6个不同的等级，分别是人类完全操控驾驶(LV0)、车辆偶尔辅助人类完成部分驾驶任务(LV1)、车辆完成大部分驾驶任务而人类仍需要监控路况(LV2)、车辆能够完全脱离人类操控但人类仍需要在紧急情况下介入控制(LV3)、车辆既能脱离人类操控亦无须人类紧急介入但该车辆仅能在特定路段和路况条件下行驶(LV4)、在任何条件下都能完全自动驾驶(LV5)。。无人驾驶汽车作为交通领域中“弱人工智能”(7)弱人工智能是指智能机器不能真正地推理和解决问题，即这些机器并不真正拥有智能。目前对人工智能的定义大多可划分为四类，即机器“像人一样思考”、“像人一样行动”、“理性地思考”和“理性地行动”。目前的主流科研集中在弱人工智能上，并且一般认为这一研究领域已经取得可观的成就。的代表，目前技术水平正处于发展上升阶段，未来的发展潜力巨大。到目前为止，全球有能力研制并生产无人驾驶汽车的公司的投产成果大部分处于这种分级体系中二级或三级的位置。自我国首起自动驾驶汽车致人死亡的交通事故[12]发生至今，我国对无人驾驶汽车进行系统规制的法律仍未出台。尽管无人驾驶汽车引发的事故时有发生，但由于目前无人驾驶汽车的行车数据库仍不完备，事故中诸多细节难以认定。可见，在目前自动驾驶汽车最高发展水平不超过LV3的情况下，有无人驾驶汽车参与的事故责任划分难度明显上升。由此可以合理推断，当技术发展到LV4乃至LV5水平时，弱人工智能将更加充分地展现出自我分析和判断的能力，届时此类案件案情将更加复杂，如果不出台相关法律进行规制，将更难解决此类问题。在无人驾驶技术不断发展的同时，无人驾驶汽车带来的新问题也层出不穷，给人类社会带来了巨大挑战。目前我国法律法规规制的缺位显然不利于未来无人驾驶汽车的产业化发展，当技术发展到LV4、LV5水平后，这样的法律规制缺位有可能带来灾难性后果。

2. 与现行法律法规衔接缺位

无人驾驶汽车作为“弱人工智能”的典型代表，具有自主学习和决策的特点，可以在特定程序框架下规划决策、自主行驶。机器以研发者或使用者意志为基础，能够不依赖自然人的具体操作而在程序内进行自主判断，却不能成为独立承担相关责任的法律主体[13]。我国尚未在此领域进行法律性质上的界定。目前，只有《北京市自动驾驶车辆道路测试管理实施细则(试行)》明确表述了无人驾驶汽车的定义，但没有对其法律地位进行明确，诸如道路通行权赋权与否、无人驾驶汽车能否获得法律主体地位等问题尚不明确。这种状况致使无人驾驶汽车导致的加害行为不能被目前的侵权理论所容纳。目前《侵权责任法》《道路交通安全法》等法律没有对此问题进行规制，我国亦尚未出台专门法律就其法律性质进行界定。总而言之，我国应当尽快在无人驾驶汽车领域填补与现行法律法规衔接的空白，这既是规范相关技术发展的基础，也有利于解决目前相关技术发展带来的侵权责任界定等难题[14]。

3. 缺乏系统全面监管

目前，针对我国无人驾驶汽车出台的法律法规数量极少，且绝大部分是政策性的。无人驾驶汽车当前以及未来可能涉及的法律纠纷类型多样，广泛存在于保险、隐私权保护、民事侵权等诸多领域。同时，目前《侵权责任法》《保险法》等传统法律中并未对无人驾驶汽车进行专门规定，很多方面存在立法空白。因此，目前适用传统法律解决无人驾驶汽车纠纷只是一定程度上的权宜之计。在针对无人驾驶汽车进行规制的法律出台之前，对无人驾驶汽车法律纠纷“头痛医头、脚痛医脚”，不能充分解决无人驾驶汽车引发的存在于多个领域的法律问题。

我国目前主要通过国务院发文对无人驾驶汽车发展进行总体规划，但这些规划可操作性有待进一步提高。国内无人驾驶相关立法基本集中于无人航空飞行器领域[15]。只有2017年出台的《北京市自动驾驶车辆道路测试管理实施细则(试行)》对无人驾驶汽车的道路测试进行了规定，但其法律位阶较低，无法对无人驾驶汽车进行有效规制。由此可见，我国亟待出台系统全面的法律法规对无人驾驶汽车领域进行规制。

三、无人驾驶汽车的伦理规约

1. 制定无人驾驶汽车伦理准则

无人驾驶汽车进行机器学习的过程展示了其自身高度的学习能力，能够在极具变化性和复杂性的现实生活实例中自上而下地学习到处理各种突发情况的方法，并在学习过程中逐渐对这些实例加以总结和提炼，最终形成嵌入技术内部的伦理模式。学界对人工智能采取“自上而下”和“自下而上”两种手段嵌入伦理准则的做法展开了广泛探讨。诚然，两种手段都不是最佳选择，“自上而下”方式在为技术植入设定好的伦理准则后暴露出更深层次的伦理问题。虽然简易版的“电车困境”能够通过现行法律作出裁判，但在理论上对更加复杂的情况进行讨论时，无人驾驶汽车伦理问题往往转化为对功利主义后果论原则的讨论，而用一个尚未解决的难题作为另一个难题的答案显然不是最佳方案。“自下而上”的机器学习也并非无懈可击，但通过伦理准则建构和法律规制的方式能够在一定程度上对其缺陷进行规避，在目前的现实条件下有可能实现可操作性和预期效果的最大化。

目前制定人工智能伦理准则在国际上已有先例[16]。我国应当制定无人驾驶汽车相关伦理准则，通过“软法”的形式将隐性的伦理理论固定为显性的伦理准则。就伦理准则的内容而言，应正当合理，且应覆盖无人驾驶汽车机器学习的过程，防止不正当操作案例污染伦理准则形成过程，同时突出强调伦理准则的核心思想，从而促进无人驾驶技术进行积极和善良的表达。

2. 保证技术程序正当

就伦理准则制定的程序而言，应当体现出正当性。合理可靠的伦理建模是无人驾驶汽车进行伦理选择的基础，而伦理准则的正确传达同样需要正当的技术程序辅助实现。因此，我国应设立有关机构对伦理准则的准确表达进行管理。这一做法在国际上已有先例，如英国科技委员会拟成立的人工智能委员会就具有对伦理问题进行研究和监管的职能[17]。

无人驾驶汽车作为人工智能在交通领域的具体应用，应当受到伦理委员会的管制[18]。伦理委员会应当在制定合理伦理准则的基础上，对相关技术产品的研发制造和投产使用进行必要的伦理审查，对伦理规则的实施进行监管。一方面，保证伦理规则的制定符合程序正义的原则；另一方面，与技术发展相结合，保证无人驾驶汽车学习伦理准则的技术程序正当。

四、无人驾驶汽车的法律规制

社会学家吉登斯曾预言：“为了防止科技风险给人类社会带来不可逆的破坏性伤害，人类需要解决科技的外部影响和制约科技进步的规则两方面问题。”[19]149目前我国相关技术正在摸索中前进，但与之配套的法律规制体系还没有建立起来，因此，如何对无人驾驶汽车技术进行规制是立法者应当持续关注的问题。本文尝试对此提出一些建议。

1. 完善与现行法律的衔接

我国的无人驾驶汽车发展正处于初级阶段，目前的无人驾驶汽车自主性程度较低，主要责任仍由驾驶员承担。但根据理论上对相关技术发展的划分来看，当技术发展到较高水平时无人驾驶汽车自主性较高，此时发生的事故基本上是汽车自身缺陷导致的，则法律责任划分的方法也应当进行相应调整[20]。由此可见，若在无人驾驶汽车发展过程中以发展程度为据进行划分，则每个发展阶段无人驾驶汽车发展表现出的法律特征、引发的法律问题不尽相同。因此，在进行法律规制的过程中应当充分考虑无人驾驶汽车技术的这一特点，分阶段对无人驾驶汽车进行立法。

结合我国无人驾驶汽车的发展现状，现阶段我国相关问题，诸如事故责任不明、道路通行权争议等主要集中在《道路交通安全法》的管辖领域。因此，我国现阶段应当从《道路交通安全法》入手，推动现有法律法规和新技术有效对接。此后可以进一步进行法律规制，如明确无人驾驶汽车的法律主体地位，对驾驶系统研发者、车辆制造商以及车辆使用人的责任进行划分等，从根源上解决无人驾驶汽车主体资格的法律拟制问题。

2. 构建风险防控机制

在人工智能进行自主“机器学习”的过程中，无人驾驶汽车会不可避免地接收到一些道路行驶中的违法违规行为，如不通过法律途径关闭这些错误的学习通道，无人驾驶汽车就有可能将从这些错误案例中学习到的规则融合进其自身的伦理体系中，给交通出行埋下隐患。因此，通过伦理规约的形式将“善恶”进行固定是从理论层面解决无人驾驶汽车伦理难题的开端，而利用法律法规将意识层面的伦理规约确定为规范社会生活的准绳，则是管控无人驾驶汽车发展的关键。通过法律对无人驾驶汽车“自下而上”学习过程中的基本原则和相关程序进行规制，能够有效应对人工智能自我学习带来的挑战。

针对目前无人驾驶汽车的开发利用情况，我国应当提前做好无人驾驶汽车风险的防范工作。主管机关在出台具体治理措施时，应当以“预防胜于补偿”为基本原则，预见性地对发展水平较高的无人驾驶汽车进行法律规制，预防无人驾驶汽车技术飞速发展带来的问题，规避无法可依的风险。应运用法律手段对无人驾驶汽车的风险进行防控，制定具有适当前瞻性的法律填补目前无人驾驶汽车立法领域的空白，以有效应对此类风险。

无人驾驶技术的飞速发展和法律的滞后性之间始终存在着矛盾。为最大限度地规避法律的滞后性弱点[21]，应分阶段对无人驾驶汽车进行立法，并使法律规制适当超前。现行的法律法规与无人驾驶汽车的发展速度和进程并不匹配，在完备的法律法规约束缺位的情况下，相关企业可能在利益驱使下利用技术手段进行违背伦理的试探，却不能受到法律的有效规制。

3. 加强立法与专业技术的结合

从国外的无人驾驶汽车规制实践来看，实践中普遍综合考虑到法律规制与科技发展的平衡问题，采用“适度超前、循序渐进”的立法措施，引导和规制无人驾驶汽车的研发与应用[22]。

从本质上看，法律是对无人驾驶汽车风险的控制，这种控制关系实则是技术和法律两个价值世界之间的碰撞。无人驾驶技术本身的价值是由其客观属性决定的，而其社会价值则由法律进行调整。因此，应当在技术价值和法律价值的交错中寻求合理的平衡点，以此为落脚点进行价值重构，从而尝试解决新技术带来的规范构建难题。我国在进行无人驾驶汽车立法的过程中应该在法律与科技之间寻求平衡，吸收技术专家的专业知识。无人驾驶汽车技术具有高度专业性，在该领域进行的立法与这些专业技术关系紧密。因此，关于技术风险的立法领域普通人难以进入。为保证立法的科学性，应注重立法环节的技术性。

目前，国外相关法律规制内容具有规则的趋同化和统一性特征，这反映了治理的全球化趋势。我国在立法环节应当学习借鉴域外的先进技术成果，在与国际无人驾驶汽车立法接轨的同时，开创适合我国实际的无人驾驶汽车规制体系和技术标准，建立我国的法治话语权。

4. 保证法律体系的完整性

无人驾驶汽车给目前的法律秩序带来了前所未有的挑战。目前无人驾驶汽车在民事主体法、著作权法、侵权责任法、人格权法、交通法、劳动法等诸多方面与现行法律制度存在冲突，显现出法律制度产品供给的不足。无人驾驶汽车技术陷入伦理困境，表明解决无人驾驶汽车法律问题不可能通过单一的部门来完成。无人驾驶汽车带来的法律问题是复杂多样的，因此应在立法过程中务求规制体系的完整性，避免出现立法空白。我国一方面应尽快出台国家发展战略，从战略规划的高度形成支撑无人驾驶汽车的政策体系，对无人驾驶汽车发展进行整体性谋略和全局性安排，以保证对无人驾驶汽车进行规制的法律能够覆盖无人驾驶引发问题的各个社会领域，发挥法律的保护作用；同时又可避免多部法律对无人驾驶汽车进行规制，出现部门法之间的冲突问题。另一方面，应当从无人驾驶汽车引发的不同法律问题入手，从设计生产到事故责任分配就无人驾驶汽车的法律规制提出有针对性的解决方案。

包括核武器、生化武器等在内的许多危险和有伦理争议的技术，事实上已经处在有效的政治管制下。以往的滴滴打车事件、“快播”案等都证明了技术中立论的错误，因此应加快推进针对无人驾驶汽车的完整立法，将无人驾驶汽车涉及的各种类型法律问题都纳入法律的规范之下[23]64。

五、结语