浅析自动驾驶下的道德困境

陈云培

1967年英国哲学家菲利帕·福特首次提出的电车难题，被很多人熟知。一辆失控的列车在轨道上行驶，列车正在行进的轨道上，有5个人被绑起来，无法动弹，列车将要碾过他们，若此时你站在改变列车轨道的操纵杆旁，可以通过拉动这个操纵杆将列车引导到另一条轨道，但另一条轨道上有也有1个被绑着无法动弹的人，只要列车变换轨道，也会碾过那个人，但可以救下正在行进轨道的5个人，此时你会怎么选？作为伦理学的思想实验，这个问题被很多人讨论，多数人在遇到这个问题时，是很难做出选择的，也无法给出很完美的答案，在现实生活中也很少有人会遇到类似的难题，而在自动驾驶的技术框架下，这个问题将普遍存在，并会引导和决定自动驾驶技术的发展方向。

在设计自动驾驶汽车软件系统时，无疑会遇到这样一个问题，当遇到不可避免的汽车碰撞的情况，如果自动驾驶的汽车选择不避让，将会对路人造成伤害，如果自动驾驶汽车选择避让，又会造成车内乘客受伤，即在“乘客优先”与“行人优先”之间，自动驾驶汽车软件系统应做何种选择？

在自动驾驶技术发展的初期，这个问题的决策者将由编写自动驾驶汽车软件系统的软件工程师所决定，自动驾驶汽车软件系统对于这类情况的设计方案或许没有一个既定的标准，也很难有一个既定的标准。在如何做到将行人与乘客的伤害降到最低这个问题上，会有无限种选择，也无法做到全面的涵盖。而自动驾驶汽车软件系统，是由一行行代码组成的，软件工程师很难做到穷举，即便能将大部分的可能性进行罗列，那也代表着巨量的代码行数，这也将是一个巨大的数据计算过程，在自动驾驶汽车遇到不可避免的碰撞时，是否能在种可能中做出最完美的选择，又将是一个值得考虑的问题。

即便可以对所有的可能性进行列举，且可以成功、及时地在自动驾驶汽车行驶过程中进行判断，那是否代表着自动驾驶汽车的电车难题会被破解？恰恰相反，当自动驾驶汽车进入市场后，将面临着消费者的选择，作为给消费者提供服务的自动驾驶汽车软件系统供应商，应该在设计产品的过程中充分考虑消费者的需求，即“乘客优先”，那就应该在设计自动驾驶汽车软件系统的过程中将保护乘客安全的条例放在首位，如果真做这样的选择，将会被绝大多数作为行人角色的群体抨击，即便将“乘客优先”放在首位，作为消费者的乘客也可能不会鼎力支持，因为在出行过程中作为乘客的角色并非一直存在，在其他情况下也有可能转变为行人的角色，在此情况下，自动驾驶汽车又将会和成为行人角色的消费者站在对立面。使用者角色的转变，让自动驾驶汽车软件系统的安全性设计很难做出符合所有人要求的标准。

作为自动驾驶汽车的消费者，在自动驾驶汽车软件系统供应商眼中，他们就是自己的“上帝”，在设计软件系统时，偏向于为“上帝”提供更好的服务无非是正常的选择，即在自动驾驶汽车软件系统设计过程中选择“乘客优先”，而非“行人优先”，从商业方面考虑也是很正常的考量。但是从社会伦理道德方面考虑，行人和乘客都是活生生的生命，又怎么可以通过代码来决定某一方的安全与否呢？正如前文所述，作为乘客的角色并非是永久的，在日常生活中一定会转变为行人的角色，在角色转换后，站在行人角色上的消费者又应该如何去看待自动驾驶汽车呢？没有人愿意成为自动驾驶时代的“牺牲品”。

自动驾驶汽车软件系统的安全性设计，是为了避开人类驾驶员在操作车辆过程中失误的种种可能，从而降低汽车发生碰撞时对人类带来的伤害，每个人都希望能拥有一辆足够安全的自动驾驶汽车，可是自动驾驶系统很难实现100%的安全标准，这是毋庸置疑的。自动驾驶汽车在行驶过程中需要判断路况，对道路信息进行分析并做出对应的决策和动作，和人类驾驶员驾驶汽车一样，整个过程包含了数据感知、规划决策、控制执行3个部分，每个部分都需要自动驾驶汽车在设计过程中进行足够完善的考量，繁杂的步骤让自动驾驶汽车是否可以做到符合所有角色的出行要求，就需要软件工程师在设计自动驾驶汽车软件系统时，尽可能做出和人类驾驶员一样的“驾车价值观”的软件系统。

很多自动驾驶汽车碰撞事故表明，自动驾驶汽车并不会主动去碰撞行人，但在道路状况复杂，自动驾驶汽车很难做出正确的判断，而自动驾驶汽车上的安全员由于对自动驾驶汽车软件系统足够的信任，不会立刻去接管车辆，从而导致自动驾驶汽车“被迫”碰撞行人的现象依旧存在，在这些碰撞事故中，就可以看出自动驾驶汽车软件系统设计得不够完善。

而未来的自动驾驶汽车软件系统将完全取缔安全员的角色，自动驾驶汽车在行驶过程中如果遇到无法避免的碰撞时，就需要独立地、快速地做出决策，这就需要自动驾驶汽车软件系统足够“聪明”，能够判别各种复杂的道路情况，并执行对人类的伤害降到最低的行为决策。但作为人类驾驶员的我们尚且无法做到足够完美的选择和判断，又如何去期待自动驾驶汽车软件系统可以做出预判？作为人类的我们在面对电车难题时尚且无法提供统一的标准答案，作为一行行代码写下的自动驾驶汽车软件系统，又如何去得出最优的标准解？

自动驾驶时代终究会到来，作为社会中的一分子，全部都是参与者，没有一个旁观者，软件定义汽车下的自动驾驶汽车对于每个人来说都是一样的，如何做到最完美的自动驾驶避障解决方案，是仍旧需要考量和讨论的事情，没有人可以置身事外。自动驾驶汽车的出现，必将影响我们的出行习惯和交通管理方案，而一个好的自动驾驶软件系统出行方案，是需要自动驾驶汽车软件系统供应商、消费者、政府、保险机构、汽车后市场服务企业等多角色的参与与讨论，但自动驾驶汽车面对的道德困境无法避免且终将无法得到统一的答案。