自动驾驶汽车伦理建构中的“电车难题”批判

苏令银 许梦怡

一、引言

自动驾驶汽车有望在未来的交通运输系统中发挥关键作用。它们将产生全球性影响，改变社会以及道路和交通系统的安全。对于公共道路上的自动驾驶汽车的讨论，技术视角只是其中一个方面。未来的自动驾驶汽车将不得不做出对人类来说在道德上难以做出的决定，而工业领域和学术研究尚未提供圆满的解决方案。汽车制造商目前关注的焦点是将伦理准则嵌入自动驾驶汽车的软件中。

“电车难题(Trolley Problem)”是伦理学领域最为知名的思想实验之一。最早是由哲学家菲利帕·福特(Philippa Foot)于1967年提出来的。菲利帕·福特在她的论文《堕胎问题和双重效应主义》中，首先清楚地阐述了当我们将意图和远见相结合时出现的哲学困境。在这篇论文中，福特提出了一个外科医生的例子，她在对分娩中的母亲进行手术时，必须在以下两种试图挽救她生命的方法之间做出选择：一是进行子宫切除术，同时预见到一个额外的后果将是胎儿死亡；二是进行后期流产，直接结束胎儿的生命。经典“电车难题”的大致内容是：假设在一个电车轨道上绑了5个人，备用轨道上绑了1个人，有一辆失控的电车飞速驶来。而你身边正好有一个摇杆，你可以推动摇杆来让电车驶入备用轨道，杀死那1个人，救下5个人；你也可以什么都不做，杀死5个人，救下1个人。此类伦理困境问题被称为“电车难题”。现有的文献中包含了许多具有这种基本结构的变形案例。朱迪斯·贾维斯·汤姆森(Judith Jarvis Thomson)将这些变形案例统称为“电车难题”(1)Thomson,J.J.，“Killing,letting die,and the trolley problem”，The Monist,1976，59(2)，pp.204-217.。在这些电车难题的早期讨论之后，出现了一整套讨论道德直觉、意图和我们预见行为后果的能力之间关系的文献。道德哲学的许多工作都旨在明确我们在这些情况下应该做什么。在流行文化中也充分利用了这种困境。例如，蝙蝠侠在《黑暗骑士》(2008)中拯救公众英雄哈维·丹特(Harvey Dent)和他的恋人瑞秋·道斯(Rachel Dawes)之间的悲剧选择；柯克船长试图成功完成没有胜利的小林丸训练。在很多情况下，这些道德选择架构被作家用来梳理观众的道德直觉。

这些电车难题不仅仅出现在学术文献和小说作品中。在自动化、大数据、人工智能时代，我们在现实世界中也不断面临着这些场景。自动驾驶汽车已经出现，自动驾驶汽车已经被证明可以成功地减少交通拥堵，降低交通事故率，甚至显示出比人类驾驶员更强的导航效能(2)Chen,B.,Sun,D.,Zhou,J.,Wong,W.,&Ding,Z，“A future intelligent traffic system with mixed autonomous vehicles and human-driven vehicles”，Information Sciences,2020(529),pp.59-72.。自动驾驶汽车的早期使用也暴露了它们的一些弱点和根本缺陷，以及我们对它们维持有意义的控制的脆弱能力(3)Calvert,S.C.,Heikoop,D.D.,Mecacci,G.,&van Arem,B，“A human centric framework for the analysis of automated driving systems based on meaningful human control”，Theoretical Issues in Ergonomics Science,2020，21(4)，pp.478-506.。仅仅担心电车难题中轨道分叉的日子早已一去不复返。在我们的社会技术世界中，技术产品已经与我们的生活、组织、机构和政策不可分割地联系在一起，这造成了一个道德困境。如果自动驾驶汽车为了避免撞到乱穿马路的行人而撞到墙上，导致司机死亡，那么谁应该承担道德责任呢？比如，当一辆自动驾驶汽车驶进隧道时，一个人突然出现在道路上，碰撞不可避免，这就面临着两种选择：要么是汽车辗过了那个人，撞死了他；要么是汽车突然转向撞上了隧道的墙壁，导致车内乘客的伤亡。此时这辆自动驾驶汽车应该怎么做？两种选择情况可能看似相似，但却会导致直觉上的冲突。究竟应该如何理解这些相互矛盾的直觉？虽然电车事故的讨论起源于电车难题，但近年来，在自动驾驶汽车事故中，涉及“电车难题”的讨论却面临着一系列困境。这些问题很难回答。这表明在我们的社会技术领域，对电车难题及其进一步的更基本的结构问题的思考是普遍存在的。鉴于我们对技术创造的控制力不断减弱，更清楚地知道谁对它们的设计负责，以及它们是如何设计的就是至关重要的。

电车难题一直以来被广泛认为是自动驾驶汽车伦理问题的核心挑战。看似纯粹假设的两难境地即将成为现实。不久之后，自动驾驶汽车可能必须决定其所造成的事故危害如何分担、责任如何承担等。因此，电车难题有了活生生的电车事故案例，以及大量出台的政策文件和发表的研究文献(4)Bonnefon JF,Shariff A,Rahwan I，“The social dilemma of autonomous vehicles”，Science,2016(352),pp.1573-1576；Fleetwood J，“Public health,ethics,and autonomous vehicles”，American J Public Health,2017(107),pp.532-537;Gogoll J,Müller JF，“Autonomous cars:in favor of a mandatory ethics setting”，Sci Eng Ethics,2017(23),pp.681-700;郭喨、唐兴华：《“无人驾驶”的双重悖论及其解决》，《中国社会科学报》2019年2月12日，“科学与人文”版;王前：《“电车难题”的“道德物化”解法》，《中国社会学报》2020年9月1日，第4版。。越来越多的学者对电车难题构成自动驾驶汽车伦理准则建构之核心挑战的观点提出了反驳(5)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars:an applied trolley problem?”，Ethical Theory Moral Pract,2016(19),pp.1275-1289.。事实上，日常情境(如人行横道或十字路口转弯)下的自动驾驶才会引发更加重要的道德挑战。首先，电车难题可以审查自动驾驶汽车的道德原则。其次，电车难题在审查自动驾驶汽车道德原则方面的作用是有限的。这里主要讨论在建构自动驾驶汽车伦理原则的过程中，电车难题面临的四个困境，其中一些困境之前已经有学者提出。这里讨论的困境更普遍地针对日常情境下自动驾驶汽车电车难题提出，但在自动驾驶汽车伦理原则中尚未真正运用电车难题(6)Kagan S.,“Solving the trolley problem”，Rakowski E(ed)，The trolley problem mysteries，Oxford：Oxford University Press,2016.。再次，日常情境下自动驾驶汽车的实际道德选择对伦理准则的建构更加具有相关性。总之，电车难题的情况虽然很重要，但根据自动驾驶汽车伦理探究的现状，相对于日常情境而言，电车难题的重要性往往被过分夸大了。与电车难题不同，日常情境下的道德相关性很容易被忽视。

二、“电车难题”的合理性

电车难题是一种理想化的情况，在这种情况下，能动者必须在可能导致不可避免的事故伤害如何分配的两种行为之间做出决定。具体来说，作为电车难题至少要满足三个条件。首先，在电车难题情况下，碰撞是迫在眉睫和不可避免的(7)考虑到自动驾驶汽车的状况，这里将讨论限制在碰撞上，并根据对危害的分配来讨论更普遍的伦理原则。。第二，能动者能够选择如何分配由于碰撞而产生的伤害。第三，实际决策情况是确定的，因此能动者可以在结果之间做出选择。(8)尼霍姆等认为在自动驾驶汽车面临的现实中这三个假设都没有得到满足，因此电车难题的案例并非好的类比。

电车难题至少在四个方面是有价值的：它们可以用于电车事故讨论；可以用于道德实验范式；可以作为伦理教学工具；也可以用来揭示和说明社会伦理困境。具体分析如下：

首先，电车难题可以用于电车事故的讨论。在电车难题中，人们会问自己在两种或两种以上看似相似的不同电车案例情况下如何决定。尽管案例之间在结构上有某些相似之处，但个体往往会对“应该如何决策”做出相反的直觉判断。电车难题是系统地寻找一个原则来回答该如何解释两种情况下的道德差异问题。换句话说，电车难题是对多个电车事故情境中应该如何对这些案例进行反思和相互对照，以揭示道德差异并告知人们必要的道德原则。最终的决策在道德上有什么不同？是应该把人当做目的从而拯救更多的人，还是应该把一部分人当作拯救另一部分人的手段来看待？通过这种对比方法，电车难题得到了非常广泛的应用，并导致了微妙而复杂的规范伦理的发展。

其次，电车难题可以用在道德实验范式中。通过这种方式，电车难题被用来作为一种系统激发个体道德直觉的方式。受试者被问及在一个或多个电车难题中他们会做什么。当在道德实验范式中使用电车难题时，电车难题也是思想实验。作为思想实验，它可以帮助人们仔细考查一组相关的考虑事项(9)帕垂克·林(Patrik Lin)认为，电车难题的目的是为了简化问题，从而分离和研究某些变量。。所涉人员的年龄、身份以及具体情况是如何产生的等诸事实都被抽象出来了。但在道德实验范式中使用电车难题与在电车事故中使用电车难题是不同的。例如，在一个道德实验范式中，电车难题的实验目的通常被认为是存在分离性的，道德实验范式旨在引出直觉并将其用作数据或证据，而不是反映案例之间的道德差异。相比之下，电车难题主要不是关于个别情况下的直觉，而是关于明显相似情况下直觉的差异。当在道德实验范式中使用电车难题时，实验者可以系统地大量收集人们对于电车难题中的直觉，以便更好地理解关于如何依赖于情境的变化而做出相对重要性的判断。最值得注意的是，电车难题已被用于道德心理学的实验范式(10)Greene JD,Cushman FA,Stewart LE,Lowenberg K,Nystrom LE,Cohen JD，“Pushing moral buttons:the interaction between personal force and intention in moral judgment”，Cognition，2009(111)，pp.364-371.。同样，在讨论自动驾驶汽车的伦理准则时，电车难题被用作可分离的决策情境，要求个人对“应该如何决策”做出直觉判断。在这种情况下，道德机器研究也往往使用电车难题(11)http://moralmachine.mit.edu.。

再次，自动驾驶汽车中的电车难题是一种有效的伦理学教学手段。一方面，在伦理学教学中，电车难题思想实验经常被拿来应用，原因在于它提出了一个悲剧性的选择，向人们灌输了一种道德紧迫感。因此，关于自动驾驶汽车伦理原则更广泛的讨论都从对电车难题的描述开始。另一方面，在伦理学教学实践中，电车难题能够很好地吸引学生，并激发他们开展思辨性的讨论。此外，电车难题还有助于让那些不具备相应哲学背景的人参与到关于道德议题的对话中来。总之，至少在某些特定的情况下电车难题成功地激发了人们对道德问题的深入思考。

最后，在自动驾驶汽车的背景下，电车难题揭示了一个重要的社会伦理困境。电车难题揭示了个人的道德观和他的策略动机是如何冲突的。自动驾驶汽车的“电车难题”场景是，如果出现事故，汽车是优先保护车里的乘客而撞向行人，还是优先保护路上的行人而让车里的乘客陷入危险。这就离不开道德方面的考量。在现实生活中，很多人可能会像美剧《上载新生》里面的未婚夫一样，对于把自动驾驶汽车模式从“优先保护行人”切换到“优先保护车内乘客”没有任何内疚感。如果自动驾驶汽车基于合乎社会道德价值观的决策(即利他性决策)而倾向于“优先保护行人”，那么，大多数人就都会不愿意使用自动驾驶汽车，因为自动驾驶汽车做出的决定尽管符合他们道德上的认同(即利他性决策)，但最终却不倾向于保护车上的乘客(自己)。当然，也许有的人更善良，让自动驾驶汽车保持“优先保护行人”的模式。无论选择哪种模式，车内的乘客都不难想象两种模式的后果，对后果的想象可能促使人们选择不同的模式。这就是一个社会伦理困境，因为它可能会阻碍自动驾驶汽车的技术转型，并阻碍随之而来的安全技术改进。在这种社会伦理困境下电车难题是有价值的，因为它揭示了一个重要的道德决策问题。

三、“电车难题”的现实困境

尽管电车难题有许多有用之处，它同样存在令人担忧的困境，提醒人们不要过度依赖电车难题来审查自动驾驶汽车的伦理准则。首先，作为思想实验，电车难题往往建立在相互矛盾的假设基础上。其次，电车难题的思想实验是与特定的伦理设计框架相衔接的。第三，电车难题往往最终会给出错误的抉择。电车难题本质上寻求的应该是政治上的社会选择，而实际给出的却是道德上的个人抉择。最后，电车难题作为一种收集人们直觉的方法，其有效性受到了质疑。

不可否认，有人可能会反对电车难题，认为它不应该做人类自认都无法做到的事情。然而，电车难题最初是用来解决电车事故的，其方法已得到严格审查。相比之下，在自动驾驶汽车领域，电车难题有不同的方法论。它们似乎被用作一个模型来帮助审查相关的伦理挑战。这里主要是对这个模型在自动驾驶汽车伦理原则建构中的充分性进行讨论，并不是说必须要抛弃这种模型。相反，在意识到该模型的局限性之后，我们应该谨慎地运用该模型，并且只能在有限的范围内使用它，防止过度依赖这一模型进行自动驾驶汽车伦理原则的建构。

(一)在前提假设上，电车难题存在基本假设的矛盾性

电车难题的基本假设可能相互矛盾。电车难题的基本假设可能是不一致的，这种不一致性是建立在语义而不是语法的一致性概念上。我们可以把这种语义上的一致性理解为可组合性。当存在一种可能性时，这些基本假设是可组合的，我们就可以将其理解为一个可能的世界，其中每个假设都是正确的。而电车难题中的基本假设在语义上也许是不可组合的，因为它对可能性是有一定限制的。应该承认电车难题的基本假设是可组合的。也就是说，如果没有对可能情况的限制，存在认知上可能的电车难题的情况就会发生。相反，电车难题的情况在有限可能性(人们也称之为技术可能性)意义下却往往又是难以实现的。

电车难题中存在两个必要假设。第一个假设是碰撞必须是迫在眉睫且不可避免的。第二个假设是处于这种情况下的行为人必须对不可避免的伤害分配作出选择。简言之，只有当碰撞不可避免时才会是电车难题发生的情况，但无论如何有意义的选择都是可能的。这些假设分别被称为不可避免性和控制性。但在合理的约束条件下这两个假设无法同时得到满足。首先，在关于自动驾驶汽车的工程设计及其故障模式的假设下，如果两个假设中一个是正确的，那么另一个似乎就是错误的。假设自动驾驶汽车的故障模式是彼此相关的，当系统的一部分失效时，另一部分也可能失效，这可能就会面临有意义的选择。碰撞也可能是可以避免的或者是不可避免的，但是无法选择如何分配伤害，因为车辆已经失去控制。这两个关于电车难题的基本假设之间似乎存在着内在张力。考虑电车情况之前会发生什么，其中一种选择是车辆会遭遇完全的系统故障而导致碰撞不可避免。在这种情况下，碰撞可能是不可避免的，但同时自动驾驶汽车也不能做出有意义的选择。这说明如果假定故障模式相关，控制和不可避免性这两个假设是相互矛盾的。

当然，在电车难题的情况下可能不会出现完全的系统故障。事实上系统故障模式似乎不可能完全相关。然而考虑到一些合理的状况，人们对电车难题前后矛盾的担忧依然存在。与其假设故障模式之间的相关性，不如假设车辆是完全正常的，并且行人意外地出现在车辆的路径上。这一情况有两个选项，可以把它们称为低速和高速场景。在低速情况下，有足够的时间进行有意义的选择。假设碰撞是不可避免的，这样一来控制和不可避免的假设都是正确的。然而，低速的情况并不是通常的电车行驶情况，不同的人所受到的伤害在具体情形上是有差异的。比如，如果行人被撞击很可能会死亡，但当车撞到墙上时车内的乘客可能只是会受伤。与一般电车情况不同的是，这种情况会同时改变几个因素，而不是几乎所有因素都保持不变。这可能会削弱其作为电车情况的有效性。在高速行驶的情况下所造成的危害在物理上是平等的，这似乎是合理的。行人和车辆内的乘客都将死于碰撞。这种情况将满足碰撞不可避免的假设，但这种情况可能与控制假设不一致。导致车内乘客死亡所需的速度可能很高，以至于没有足够的手段来避免碰撞，这再次表明在一个有意义选择的假设与不可避免的碰撞之间存在着一种内在的张力。

总之，通过假设故障模式的相关性或者通过考虑电车难题发生的合理方式，似乎在有意义的选择和不可避免的碰撞之间存在一种张力，这实际上削弱了电车难题与自动驾驶汽车伦理原则建构的相关性。如果论证是正确的，电车难题就很难代表可能发生的情况；对车辆的控制和不可避免的碰撞不能很好地同时进行，工程上的限制似乎没有给电车本身留下多少空间。当然，这种担忧没有影响电车难题的理论优势。人们将基本假设的一致性作为基于电车难题低频率论证的改进版本来考虑是不够合理的。(12)一些人反对电车难题，理由是它们很少见。即使引发电车事故的情况很少见，但从长远来看它们肯定会发生。不管这些情况是否真的发生，自动驾驶汽车仍然需要编程，以某种方式或选择来为不可避免的碰撞做好准备。

(二)在方法论上，电车难题框架设计导致伦理范围的局限性

电车难题所能阐明的伦理范围的限制是电车难题往往适用于特定的设计方法，而这导致了两个限制。首先，不同设计方法之间的伦理差异并没有被电车难题所阐明。其次，电车难题的审查可能与实际工程实践相脱节，工程师们可能会采用与电车难题最相关的相反的方法。

电车难题采用的是自上而下的自动化决策或人工智能方法。这种方法类似于深思熟虑的、有意识的演绎决策过程。采用这种自上而下方法开发人工智能的目的是实现直接指导给定过程的原则。这种自上而下的设计方法与自下而上的方法形成了对比，自下而上的方法借助于学习行为(例如神经网络)，它类似于相当直观和无意识的决策。在自下而上的过程中做出选择的原因通常是难以理解和解释的，因为选择不是基于明确的决策规则或原则。因此，电车难题很自然地采用了自上而下的设计方法。这种自上而下的方法体现在电车难题中，就是其假设一个能动者通过利用一般原则而明确地做出决定。这种自上而下的方法具有某些受欢迎的特性。

当然，采用自上而下的方法本身也会引发伦理问题。例如：考虑到在任何情况下、任何时候所有决策都是由自动驾驶汽车做出的，乘客是否应该对这些决策有发言权呢？这些问题无法用电车难题的答案来解释。然而，对于自动驾驶汽车在工程领域将面临的大多数挑战，都需要做出设计决策。这些决定可能会对自动驾驶汽车的性能和社会接受这项技术的程度产生严重影响。有些人甚至认为，道德上最重要的决定……是在计划阶段，即当决定如何对自动驾驶汽车进行编程时(13)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars: an applied trolley problem?”，Ethical Theory Moral Pract，2016(19),p.1280.。由于他们无法阐明设计问题，电车难题受到了严重的限制。这提醒人们，在调查自动驾驶汽车的道德问题时，不要只关注电车难题。此外，鉴于目前以神经网络学习算法形式出现的自下而上方法在人工智能领域的突出地位，伦理方法与工程方法之间存在不可通约性的风险。工程师可能会采用与电车难题最自然相关的方法相反的方法(14)尽管有这些限制，但电车事故的案例在这里还是发挥了伦理学教学的作用。。

(三)在本体论上，电车难题是道德问题而非政治问题

电车难题似乎导致了错误的解决方案。电车难题的解决方案包括行动的选择和这种选择的正当性，这种选择通常采用抽象规范理论的形式(15)因此，电车事故的处理方法与电车难题的方法有很大的不同，电车难题的目的是制定普遍的道德原则。。简言之，电车难题被认为是道德问题。但这在错误的层面上定位了这一问题。相反，对于自动驾驶中的电车难题，人们需要在政治层面上找到解决办法。道德哲学是对个人行为的反思，政治哲学则是对实质分歧背景下的社会安排的一种反思。电车难题的解决方案似乎不太可能得到广泛的社会认可。在这种进退两难的情况下，什么才是正确的选择是有争议的，而且这种分歧很大。应该如何处理道德问题上广泛而深刻的分歧却引发了一个政治选择问题。面对道德分歧和价值多元主义，政治哲学家们反思了治理共同生活的不同模式。政治方法以现有的观点和价值观的多样性为出发点，它与电车难题中道德哲学的方法形成了对比。电车难题没有为这种多元主义留出空间，因为它的目的是引发个体的道德选择。电车难题促使人们做出个人选择，而实际上人们面对的却是社会选择。人们似乎需要的是一种政治妥协，以克服在价值问题上的分歧。只要人们重视政治群体的道德多样性，就应该认识到自动驾驶汽车主要应该是一个社会政治决策问题，而不是个体道德选择问题。

(四)在认识论上，电车难题存在不确定性，其证据价值存疑

为了便于讨论，假设人们要找到电车难题的解决方案，而且几乎所有人都同意这个解决方案。然而，在确定自动驾驶汽车的伦理议题设置时，这种解决方案的帮助仍然有限。这是因为电车难题尤其是更普遍的电车难题存在各种认识论问题。

首先，一种电车难题的解决方案可能不适用于其他新情况。在一种情况下看似正确的选择，在另一种情况下可能变成错误的选择。电车难题通常规定所有相关的个人情境都是相同的。但是哪怕细小的个体情境的改变可能都很重要。根据参与者的年龄、他们与他人的关系、他们在特定交通情况下的责任，人们都可能想要做出不同的选择。更普遍地说，一个给定的道德选择或原则是否能从一种情况扩展到另一种情况，本身就是一个道德问题。

其次，电车难题的解决方案可能不会扩展到不确定性的决策。人们做出的所有决定——以及自动驾驶汽车必须做出的任何决定——都只能以概率的形式恰当地表示出来。相比之下，电车难题以两种方式假定确定性。首先，他们假设面临决策的能动性确定冲突是不可避免的。但是，认识到碰撞是否不可避免并非无关紧要，它本质上是一个概率问题。因此，存在一个情况不确定性的问题。其次，作为一种理想化，电车难题规定人们选择的结果是确定的。但事实上，选择的结果也是一个概率问题。因此，电车难题并不代表决策的不确定性。对于这两种不确定性中的任何一种都会出现以下问题，即不清楚确定性的决策原则是否以及如何扩展到不确定性的决策；在确定的情况下容易做出的决定，在不确定的情况下会变得困难得多，并且在道德上充满了不确定性。不确定性给一系列规范理论带来了深层次的问题。这在相关文献中已经有所体现(16)Jackson F,Smith M,“The implementation problem for deontology”，In:Lord E,Maguire B(eds)，Weighing reasons，Oxford：Oxford University Press,2016,pp.279-292.。然而，在解决这些不确定性问题时，对电车难题的反思只能提供有限的帮助。弗雷德(Fried)甚至得出这样的结论：几十年来，人们对电车难题的关注所产生的各种道德准则中，没有一个能够处理其中的普通风险问题(17)Fleetwood J，“Public health, ethics,and autonomous vehicles”，American J Public Health，2017(107)，p.506.。

最后，在高度抽象的决策情境下做出的直觉判断的证据价值令人怀疑。人们对想象中的情况作出道德判断的能力会减弱，因为这些情况是高度理想化和抽象化的，因此与人们所熟悉的日常环境非常不同。人们对电车难题的直觉会对根本没有任何真正道德意义的因素做出反应。这一论点使人们对电车难题作为一种获取证据的方式，以及在自动驾驶背景下为汽车道德决策提供信息的作用提出了质疑。

综上所述，电车难题并不是解决自动驾驶汽车伦理问题的核心。这里已经阐述了四个方面的担忧。首先，电车难题假设可能是不一致的，这可能导致它们的实用性受到实际限制。其次，电车难题往往与自上而下的设计方法相结合。因此，它们将重要的设计决策排除在视野之外，并且它们可能与当前人工智能领域的主要方法不连续。第三，当社会需要政治解决方案时，电车难题能够给出的却只是道德解决方案。第四，即使人们找到了一个所有人都能接受的解决方案，由于某些原因使得这种解决方案的帮助也有限。比如，一种电车难题的解决方案是否会延续到另一种情况尚不清楚；基于电车难题的审查可能无法提供关于情境不确定性和决策不确定性的信息；假设人们的直觉只在熟悉的环境中起很好的引导作用，那么电车难题的理想化可能会弱化直觉的证据价值。以上都说明了电车难题在审查自动驾驶汽车道德问题方面的局限性。

四、日常情境中自动驾驶的伦理挑战

我们应该为自动驾驶汽车的道德原则建构提供一个积极的愿景。日常的交通状况，比如接近能见度有限的人行横道、遇到迎面驶来的车辆时左转、以及通过繁忙的十字路口等都会对自动驾驶汽车提出重要的道德问题。与这些日常情境相关的伦理问题范围十分广泛，包括风险管理技术、社会正义问题，以及整个交通系统层面出现的伦理挑战(18)Borenstein J,Herkert JR,Miller KW，“Self-driving cars and engineering ethics:the need for a system level analysis”，Sci Eng Ethics，https://doi.org/10.1007/s11948-017-0006-0(2017).。当然，这里关注的主要是驾驶策略问题。

首先，对于自动驾驶汽车来说，在日常情境下的驾驶策略具有挑战性。人类可以凭直觉做决定，而机器却不能凭直觉作出决定。这就是一种特殊性的挑战，也是众所周知的“莫拉维克悖论”的一个例子：对人类来说容易的东西对自动化系统来说却很难。人们凭直觉决定自己需要多么小心地驾驶。然而，这种直观的感觉或诀窍并不容易转化为自动化算法。人们理解祈使句“慢下来”的意思，但是它的意思却很难精确，因为它取决于不同的情境和环境参数，比如，此刻后面有没有另一辆汽车？这一街区上有多少行人？准确地阐明驾驶策略的难度表明，在这种普通情况下采用自上而下的方法实施车辆行为不太可能成功。这一方法通过诱导性地复制人类驾驶员的实际行为来告知车辆的行为策略很难避免特殊性的挑战。关于人类驾驶员的实际行为的数据往往存在偏见等突出问题。人类驾驶员的实际行为受文化、地理差异等因素的显著影响，并且在年龄、种族等方面往往具有歧视性。此外，由于行人对自动驾驶汽车的行为可能与他们对人类驾驶汽车的行为反应不同，因此，对人类驾驶员实际行为的复制并不能充分解决自动驾驶汽车可能被行人策略性利用的难题。其次，除了特殊性的挑战，还有规模性的挑战。对于人类驾驶员(尤其熟练的驾驶员)来说，在日常的交通状况下如何最恰当地驾驶，通常是不需要专门去思考的问题。这不仅是因为日常情境很容易直观地处理，而且还因为每个人开车的方式——只要我们稍微合理地开车——总体上没有多大区别。相比之下，自动驾驶汽车在日常情境下的驾驶行为选择本质上关涉的是普遍的社会政策，绝非个体的道德选择问题。因为，自动驾驶汽车如何接近人行横道的决策不仅影响一辆车的行为，还影响所有以这种方式编程的车辆在所有人行横道上的行为。可见，日常情境下的自动驾驶的情况就不再是一个小问题，而是一个社会大问题。关于自动驾驶行为的小差异将在总体上产生很大的差异。由于日常情境的自动驾驶行为经过学习训练后就经常发生，由此造成的统计性伤害和死亡可能相当大。特殊性和规模性的挑战，使得日常情境与自动驾驶汽车的伦理原则建构是密切相关的。人类驾驶员在风格上可以是多样的，在决策上也可以是直觉的。但是，自动驾驶汽车的风格将是统一的，而且在使用方法上必须是具体落地的。

在此背景下，我们确定三种方式并在日常情境下提出与道德相关的问题。首先，使自动驾驶汽车尽可能安全的优化问题。其次，在安全性和其他价值之间存在权衡，如机动性、环境保护和可承担性。第三，现有的法律框架如何适应自动驾驶汽车产生的法律问题，如法律的激励性机制问题。

(一)安全的优化问题

自动驾驶汽车有可能使驾驶变得比现在安全得多。然而，潜在的安全优化实现的程度取决于工程和社会决策。比如，以能见度有限的人行横道为例，一些汽车制造商可能会采用自上而下的方法，另一些制造商可能依赖自下而上的方法让自动驾驶汽车向人类驾驶员学习。有些方法可能比其他方法更安全。当然，这也带来了两个突出挑战：一是如果需要就不同的技术方法进行协调以改善总体安全，那么在竞争环境中如何促进这些技术方法协调呢？类似的问题也出现在互操作性标准中，例如，车辆对车辆通信的协议或者车辆对基础设施通信的交叉口集中管理的操作。二是不同的制造商可能会根据各自的解决方案找到安全最佳方案。如何将这些方法结合起来以避免局部最优从而达到一个可行的全局最优？

可以设想采取不同的措施来鼓励打破局部的安全最佳状态，并促进技术方法上的协调。第一种措施是基于监管而实现。只有最安全的自动驾驶汽车或达到某些最低安全标准的汽车才会被允许上路，这一安全措施可能会导致用户部分放弃自己的经济自由。第二种措施是要求制造商之间的知识转移或数据共享。自动驾驶汽车的整体安全性可以通过公开确定成功的解决方案来提高，这样竞争对手就可以相互借鉴采用某些策略。然而，这种措施一方面使得用户数据的隐私可能面临风险；另一方面，为了提高安全性而放弃部分知识产权和产品差异化的优势。第三种措施是将安全优化问题留给消费者。但由于消费者会基于安全原因在各种不同产品之间进行选择。因此，与基于数据交换或监管的措施相比，第三种措施很可能导致总体上不那么安全的情况。这三种措施中的每一项都将有助于优化自动驾驶汽车的安全性，但哪种措施(或哪些措施的组合)更好却是一个伦理问题。

简言之，考虑到特殊性和规模性的挑战，设计无人驾驶汽车在日常情境下的行为决策是一项复杂的挑战，而且考虑到人类健康和生命受到威胁，政策方法的选择在道德上是相关的。尽管类似的治理问题——通过监管、共享或通过市场来提高安全性——也被用于其他产品，但考虑到专用性和规模性的挑战，自动驾驶汽车的情况也带来了独特的问题。

(二)不同价值间的权衡问题

除了基于安全优化的考虑，其他的价值可能与设计自动驾驶及其在日常情境下的可承担性行为有关。人们主要需要考虑三个必须与安全相权衡的价值：机动性、环境影响和城市道路的规划设计。

首先，通过机动性，人们可以了解交通效率的衡量标准，比如交通流量的平均速度。如果车辆在接近能见度有限的人行横道时大幅减速，这将以减少交通流量为代价来增加安全性。个人可以凭直觉在高效的机动性和安全性之间做出这些权衡。但对于自动驾驶汽车来说，这些权衡可以在系统层面进行，这就引出了一个问题，即如何正确平衡安全性和机动性。另一种选择是允许个人设置，也就是说个人可以调整自动驾驶汽车的驾驶行为。当你开会迟到的时候，你可以通过其他交通工具或者无视安全措施来支付路费。在多大程度上应该允许这样做(如果应该允许的话)就引发了一个伦理问题。

其次，日常情境可能会导致与外部价值的权衡，如相对环保的交通系统。考虑到规模性的挑战，车辆在通常情况下(比如转弯)的性能设置将对环境产生重大影响，比如温室气体排放或交通噪音。根据车辆加速和刹车的速度，排放和材料磨损对环境的影响将有所不同(19)Millar J，“Ethics Settings for Autonomous Vehicles”，In Lin P,Jenkins R,Abney K(eds),Robot Ethics 2.0:From Autonomous Cars to Artificial Intelligence，New York:Oxford University Press,2017，pp.20-34.。由于大量车辆将遵循相同的算法来处理日常情境，交通增量变化将在总体上减少或增加对环境的影响。

最后，日常道路交通中存在人行横道这样的情况，而自动驾驶汽车的引入将为城市道路规划设计提供变革和新颖的方法。在安全有效地让位于行人方面，自动驾驶汽车可能更可靠，因此出现了一个问题：在任何地方过马路时，行人是否应该获得更大的优先权。也许专用人行横道的想法应该放弃。这是影响城市道路规划设计的关键问题，也是一个规范性问题。这个关键问题引出了后续的问题。假设在城市的任何地方，行人在过马路时都比车辆享有优先权，那么是否应该要求行人表明他们想过马路的意图呢？这个问题涉及有关行人和自动驾驶车辆使用者的角色和责任的伦理问题。思考自动驾驶汽车将如何改变日常情境中的交通状况，有助于激发对这些问题的思考和解决。

简言之，日常情境的驾驶体现了不同价值观之间的权衡，比如安全、机动性、效率、环境影响，以及在城市道路规划设计中如何考虑行人的责任等等。这些价值观是很重要的，特别是在针对稳定性方面，以及它们之间的权衡应该是基于规模性挑战的重要伦理问题。

(三)法律激励机制的调整问题

基于新型故障模式的自动驾驶汽车制造商可能面临更多的责任负担和诉讼。鉴于大部分交通事故都发生在普通驾驶情况下，人们应该就控制这些情况下的责任的法律框架来审查普通驾驶情况。当前，人们往往用非常笼统的术语来描述复杂的法律环境，并且只提到道德问题来说明这些案例。比如，美国侵权法的基本原则是责任损害赔偿是受扶养人收入损失的函数限制。假设制造商希望保持对责任索赔的敞口不变，就会受到激励根据一个地区的平均收入来调整驾驶行为的做法。自动驾驶汽车在富裕地区会比在经济贫困地区更倾向于小心驾驶。这就会导致现有的法律框架鼓励歧视某些驾驶行为(20)Casey BJ，“Amoral machines,or:how roboticists can learn to stop worrying and love the law”，Northwest U Law Rev，2017(11),pp.231-250.。究竟应该如何调整法律框架——侵权行为法的原则是否应该只适用于涉及自动驾驶汽车的事故？——是应用伦理学与法学交叉的一个相关问题。因此，这说明即使在日常情境下道德问题也会出现，比如当法律框架造成令人反感的激励时，就会不可避免地出现不公平、歧视等道德问题。

五、结论

日常情境的自动驾驶汽车面临着一系列的道德挑战。与电车难题相比，这些挑战似乎不那么明显和紧迫。为了强调日常情境的相对重要性，这里讨论了将电车难题作为自动驾驶汽车伦理核心所面临的四个方面的困境。第一，电车难题可能建立在相互矛盾的假设之上。第二，电车难题与自上而下的设计方法相结合。对日常交通状况的反思则要求考虑此类工程和设计决策的相关性。第三，电车难题在错误的层面上处理了自动驾驶汽车的道德问题。在实际上需要社会政治选择时，它给出的却是个人道德解决方案。现实的交通状况说明了自动驾驶汽车的驾驶行为如何与其他交通参与者的权利和责任，以及社会普遍持有的道德价值观相吻合。第四，电车难题的解决方案只要能被广泛接受，在不确定的情况下可能对做出决策的帮助是有限的。相比之下，对日常情境的反思可以立即获得自动驾驶汽车的发展趋向。

总之，日常情境会引发自动驾驶汽车的重要伦理问题，这是因为特殊性和规模性这两个重要挑战。人类驾驶员凭直觉在汽车驾驶中做出决定，而日常情境下的行为则成为政策选择问题。与一般情况相关的算法中的小差异可能在总体上产生重大影响。这引发了三种伦理问题：一是使自动驾驶汽车尽可能安全的优化问题涉及经济自由和知识产权问题，这是在实现全局安全优化过程中产生的内部价值冲突。二是其他的价值观可能与安全相冲突，比如机动性、环境影响或城市设计和交通规划中的价值观。这些价值观如何相互平衡是一个重要的伦理问题。三是现有的法律框架导致了反常的激励，调整框架并减轻对这些激励措施的抵触是一个微妙的问题，因为法律变化的影响可能是广泛的。

综上，虽然人们承认电车难题可能在电车难题的思维实验、收集证据的方法、伦理学教学手段以及阐明社会政策困境方面很有用，但当涉及到自动驾驶汽车的道德原则建构时，它们的用处却是有限的。在对发展自动驾驶汽车所涉及的道德和政治问题进行反思时，应更多地关注日常情境下行为选择和现实情况，而单纯依赖道德哲学中的“电车难题”思想实验往往不能解决日常情景中的自动驾驶汽车引发的道德与法律挑战。