自动驾驶算法系统产品责任认定困境与应对

万琳洁

（华东交通大学人文社会科学学院，江西南昌 330013）

自动驾驶机动车代表着人类未来重要的出行方式，现已成为全球汽车产业发展的新竞争方向。全球自动驾驶机动车企业特斯拉公司董事会主席Robyn Denholm 曾表示：“自动驾驶每400 万英里发生一次交通事故，人类司机每50万英里发生一次事故。”由此可见，自动驾驶相对于人类驾驶具有更高的安全性，可以有效降低交通事故的发生，自动驾驶机动车将成为未来交通出行的首选。

发展自动驾驶的初衷是提高车辆行驶的安全性，当前自动驾驶技术处于发展阶段，自动驾驶机动车出现交通事故的可能性依然存在。2022年7月22日，国际顶级赛车手林志颖驾驶自动驾驶机动车于中国台湾省桃园市发生惨烈交通事故的事件冲上热搜榜首，再次引燃了公众对自动驾驶机动车侵权责任问题的关注。作为人工智能算法与汽车工业深入融合的产物，自动驾驶机动车兼具普通汽车交通工具的有形化特点和人工智能算法智能化决策无形性的特点，加剧了司法实践中对其侵权致害产品责任认定的复杂性。

一、问题的提出

自动驾驶机动车，是指装载车载雷达、视频摄像头、激光测距仪、传感器、人工智能等构成的自动驾驶系统，通过读取使用人的指令，自动控制行驶、完成运送目的智能机动车[1]。我国在一些政策文件中对自动驾驶机动车有不同的称谓，如“无人驾驶汽车”“智能汽车”“自动驾驶汽车”“智能网联汽车”等，但均不能改变自动驾驶机动车的本质功能是辅助或替代人类驾驶的基本定位。普遍认为，通过自动驾驶系统的精确控制，使得自动驾驶机动车的反应速度远超人类驾驶员，故自动驾驶机动车具备减少交通事故发生的能力。但自动驾驶作为一种新技术，目前还处于发展阶段，技术并不成熟，特别是在自动驾驶算法系统方面，不可避免的产生侵权责任诉讼。

2016 年1 月20 日，我国京港澳高速河北邯郸段发生了世界首例“自动驾驶”致死事故。交警部门认定，死者高某未采取制动和避让措施，从后方撞上了前车。2016 年7 月，死者父亲为了查明儿子真正的死亡原因，将特斯拉在中国的销售公司起诉至人民法院。其认为，高某系因开启了车辆的自动驾驶功能，而该“自动驾驶”技术存在缺陷，高某的死亡系因自动驾驶技术缺陷而导致。具体而言，是自动驾驶算法系统缺陷问题，没能有效识别前方障碍物，导致追尾事故的发生。诉讼期间，原告高某某向法院提交了司法鉴定申请，意欲证明事故发生之时开启了“自动驾驶”功能。通过鉴定机构和特斯拉公司共同提取车辆数据记录，并交由特斯拉美国总部完成对数据的解码后，由专业鉴定机构认定，在该起车祸发生之时，高某驾驶的特斯拉轿车正处于“自动驾驶”状态。后特斯拉公司又向法院申请了重新鉴定和补充鉴定。时至今日，此案还未有定论。在本案的维权过程中，原告仅完成初步举证就耗时几年时间，本案至今未完成庭审，原告的维权之难可见一斑。

此事故发生后，自动驾驶机动车“刹车失灵”“车辆失控”的新闻频现报端。这使得部分消费者被迫采取“车顶维权”的极端手段来表达自己的诉求。传统机动车经过了百年的发展，其产生的侵权问题已经有比较成熟的法律规制，但是，自动驾驶机动车因为有人工智能算法的加持，使其不同于传统机动车，当出现侵权问题时，在产品质量法的法律规制上应具有特殊性。

算法系统相当于自动驾驶机动车的“大脑”，是自动驾驶机动车重要的组成部分。而算法是为了解决问题或者达成目标而采取的一系列步骤[2]。故算法需要依附一个载体而存在，自动驾驶系统实质上是集多种算法的一种软件，该软件代表着自动驾驶机动车的核心性能，已成为自动驾驶机动车不可缺少的一部分，汽车生产商将该系统嵌入传统机动车中，使传统机动车成为具备自动驾驶功能的智慧型车辆。

随着自动驾驶机动车逐渐取代人类驾驶，自动驾驶算法系统将对产品责任主体的适用、产品缺陷的认定标准、因果关系等提出新的挑战。同时，在发展自动驾驶机动车商业应用的过程中，必须正视当前自动驾驶算法系统在侵权认定方面面临的困境。为了更好地处理自动驾驶机动车的产品质量问题，我国的产品责任法必须进行适当调整。

二、当前自动驾驶算法系统侵权认定面临的困境

（一）自动驾驶机动车算法系统侵权主体亟待明晰

我国《民法典》没有对生产者进行界定，《产品质量法》也没有对“生产者”进行详细的划分。从目前我国自动驾驶机动车的生产情况来看，机动车的生产商主要分为三种，第一种是由传统机动车生产商自主研发自动驾驶算法系统，如长安、上汽公司等；第二种是由自动驾驶系统的生产商改造传统机动车，如百度、谷歌公司等[3]。最后一种是系统生产商仅作为供应商参与到自动驾驶机动车的生产中，与传统机动车其他组件的供应商无异。后两种模式不同于传统机动车生产，主要的区别是后两种模式混合了由其他企业开发的自动驾驶算法系统。从技术上看，首先自动驾驶算法系统需要依靠感知算法对环境进行感知，其次对各种数据进行收集和分析，最后再结合机器学习算法（机器学习算法主要用于对场景的理解及预测其他车辆的行为[4]），使自动驾驶机动车达到自主行驶的目的。如果自动驾驶算法系统出现技术错误，那么可能会导致机动车在运行的过程中发生事故，从而危及人类生命财产安全。当自动驾驶系统的生产者与汽车本体的生产者不是同一主体时，如果因自动驾驶算法系统缺陷引发了侵权责任，让不完全了解自动驾驶算法的传统机动车生产者单方承担损害赔偿责任有失公允。

（二）自动驾驶机动车算法系统缺陷的证明问题

首先，在法律层面，缺陷的证明标准难以适用。在产品责任中，受害人应当证明产品存在缺陷，证明自身的损害是由产品缺陷造成的。在理论上，将产品缺陷分为设计缺陷、制造缺陷和营销缺陷，《民法典》（第1206 条）接受新的理论观点，还规定了产品的“跟踪缺陷”[5]。我国《产品质量法》第46条规定，产品的缺陷包括两个判断标准，分别是“不合理危险标准”和“国家或行业标准”，前者是指产品存在危及人身或财产的不合理危险，后者是指产品存在保障人身、财产安全的国家或行业标准的，不符合该标准即存在缺陷。目前，自动驾驶机动车产业还处在发展初期，没有足够的国家和行业安全标准，想要证明自动驾驶算法系统不符合“国家和行业标准”是不现实的，人们只能寄希望于证明自动驾驶机动车算法系统对受害人的生命和财产造成了不合理的危险。自动驾驶机动车作为一种高科技产品，在现阶段还具有较大的不确定性，以“不合理危险标准”作为产品缺陷的认定标准太过于抽象，缺乏操作性[6]。而且，从比较法上看，《美国侵权法重述（第三版）》也完全放弃了这一标准，现阶段主要根据具体缺陷的类型来判断产品是否具有缺陷[7]。因此，我们也应该思考如何调整“不合理危险标准”，使其更具体且更具有操作性。

其次，在技术层面，算法的不透明性和不可解释性为举证带来了困难。自动驾驶机动车系统是高度专业化和复杂的领域，其核心算法更是在“算法黑箱”之中，即使是专业人士也很难研究。算法黑箱，指算法是一个工作机制非常神秘且复杂的系统，算法设计者和算法使用者以外的人们只能简单地观测到它的输入端与输出端，而无法得知算法是如何将输入的内容变成输出的结果[8]。算法黑箱导致算法的不透明性，算法黑箱产生的最主要根源是算法权利人为使算法不受其他主体的侵犯，通过技术秘密的形式将算法保护起来，加之算法自身具有的高度专业性和复杂性，致使普通民众并不能理解算法的内部运行机制，这就导致了算法的不透明性。另外，人工智能算法能够深度学习，使得算法具有自我学习和自我更新的能力，这种能力使同一算法在没有人类干预的前提之下也能不断地更新结果输出，即使算法的设计者也难以预测算法的结果，即算法的不可解释性。这些都将导致人们难以查明事故背后的原因，并陷入无法证明算法缺陷的尴尬局面。

（三）算法缺陷和损害结果之间的因果关系难以证明

在产品侵权案件中，“谁主张，谁举证”是普遍的举证规则，受害人需对产品与损害之间存在着一定的因果关系进行证明。但是，要证实产品的缺陷是损害结果的发生原因是异常困难的。要证实损害与产品缺陷有一定的因果联系，首先需要证明缺陷产品已经被使用或者被消费，然后证明缺陷产品的使用是造成损害的原因[9]。

自动驾驶汽车致损事故中，涉及的专业性极强，法官一般不具备此类专业能力。对因果关系的判断极有可能出现偏差，且自动驾驶机动车致损事故的发生原因很可能是多方面的，不仅与算法的缺陷有关，还与事故发生时的路况有关，特别是在人机混合驾驶的情况下，驾驶员可能存在疏忽行为。因此，算法缺陷与损害后果之间可能没有直接的因果关系，可能存在多因一果的情况，而各方过失的大小及原因力将影响赔偿比例。

（四）发展风险抗辩的适用存在分歧

如果根据产品投入流通时的科学技术水平，无法证实该产品具有缺陷，那么即使经过一段时间后的新科学技术水平确定该产品有缺陷，生产者也不承担责任，这就是产品责任中的发展风险抗辩[10]。在自动驾驶领域，只要生产者能够证明自动驾驶机动车算法系统的缺陷是产品投入流通时科技水平无法发现的缺陷，那么，生产者就不承担赔偿责任。

学界赞成自动驾驶机动车适用发展风险抗辩的理由是，对于生产者来说，发展风险抗辩可以鼓励生产，产品不会因为后期出现更先进、更安全的替代产品而被认定为有缺陷，这可以间接地鼓励生产者进行技术创新。同时，发展风险抗辩作为免责事由，可以在一定程度上缓解产品责任的严格责任属性所带来的弊端，避免产品责任由严格责任向绝对责任转变[11]。

学界反对自动驾驶机动车适用发展风险抗辩的理由有三。一是此免责事由不利于对受害人进行救济。通过深度学习算法的应用使自动驾驶机动车拥有类人智慧并产生自主性，有学者认为，这种自主性是机动车投入流通时科技水平所无法发现的缺陷，如果生产者以此作为抗辩理由，则生产者不承担法律责任将不利于保护受害人。二是是对科学技术水平的判断时间点不明，现有技术水平标准并不明确。以国内标准还是国外标准为准？标准的确立是适用发展风险抗辩首先要明确的。三是开发风险抗辩是否可以适用于所有类型的缺陷，各国有不同意见。德国联邦最高普通法院在对发展风险抗辩的历史和目的考察后指出，该抗辩仅免除了研究和开发的风险，因此不适用于制造缺陷，德国联邦最高普通法院认为只有设计缺陷才能适用发展风险抗辩[12]。而从我国《产品质量法》的规定来看，发展风险抗辩适用于产品缺陷的类型并没有限制。

三、自动驾驶机动车算法系统产品责任的应对之策

由于自动驾驶机动车算法系统侵权责任在认定上及因果关系证明上的困难性，故需考虑创新算法系统产品责任的应对策略。

（一）增加自动驾驶系统的生产者作为自动驾驶机动车算法系统产品责任主体

自动驾驶机动车的生产者和销售者应该继续承担自动驾驶算法系统的产品责任，原因有三。一是因为生产者和销售者需要对自动驾驶机动车提供后续服务。为了确保自动驾驶机动车的运行，需要生产者、销售者对机动车定期进行更新和检查，这是消费者购买产品或服务的延续。二是因为自动驾驶机动车的安全运行是多个元器件协同操作的结果。三是来自于自动驾驶机动车产业的良性发展需要。生产者在技术领域不断深耕，促进我国自动驾驶技术的不断进步。

笔者认为，可将自动驾驶算法系统的生产者列为产品责任主体。为了明确自动驾驶系统生产者和机动车传统生产者的法律责任，美国佛罗里达州和密歇根州已经出台了相应的法律法规，如法律规定，传统汽车在被第三方企业改造为自动驾驶汽车后，传统汽车的生产者即不再对该自动驾驶汽车的缺陷负责，除非有证据证明该车辆在被改造为自动驾驶汽车之前就已经存在缺陷。此外，自动驾驶系统生产者对算法程序具有控制力，让其承担产品责任，可以确保自动驾驶算法系统生产者持续更新和优化算法，从而进一步增强自动驾驶机动车的安全性能。

如因自动驾驶算法缺陷造成事故的，自动驾驶系统的生产者需要承担因自身过错而带来的责任。自动驾驶机动车混合了机动车本体和自动驾驶系统生产商生产的自动驾驶系统，如果因自动驾驶系统算法缺陷原因致害，则二者均应作为责任主体，对外共同对受害人承担侵权责任，对内则应当按过错承担责任。

（二）健全自动驾驶机动车算法系统产品缺陷的认定标准

消费者合理期待标准是美国《侵权法第二次重述》所提倡的产品缺陷的认定标准，该标准以消费者正常使用该产品时，该产品需满足普通消费者对产品安全的合理预期，如无法满足普通消费者对产品安全的合理预期，那么可以认定该产品具有缺陷。上世纪七十年代后，产品责任案件急剧增多，赔偿金额也持续增长，挫伤了企业技术开发的积极性。随着产品功能日渐复杂，消费者难以形成普遍的、合理的、可期待的安全观念，这种主观的标准就被认为不具有独立作用，于是，该标准就不再单独作为缺陷的认定标准了。之后，美国在《侵权法第三次重述：产品责任》中规定了风险效用标准作为设计缺陷的认定标准，将产品的有用性和危险性进行比较，特别是要求通过对产品的改进成本与现有的风险进行对比，认定生产者是否采取了有效的安全措施，从而判断产品是否存在缺陷[13]。但是，如果我们对自动驾驶机动车中算法设计缺陷的认定单独采取风险效用标准，将面临的问题是，消费者的维权成本可能过高，因为消费者无法提供缺陷产品是否存在替代设计的证据，在自动驾驶系统算法领域由消费者证明替代证据几乎不可能实现，故风险效用标准在评判自动驾驶系统算法缺陷同样不宜单独上适用。

其实，我国《产品质量法》深受合理的消费者期待标准的影响。学者们普遍认为，产品应该具有“合理期待的安全性”，即消费者在使用产品时，会产生一种安全性期待，只要对产品进行合理使用，那么，产品就不能出现安全的隐患。故笔者认为，判断自动驾驶机动车系统算法是否为缺陷产品，应当将“不合理危险标准”和“消费者合理期待标准”相结合进行综合判断，风险效用标准在消费者期待标准不能有效发挥作用的情形下，可以作为消费者期待标准的重要补充，共同作为产品缺陷的认定标准。笔者认为，在自动驾驶机动车算法系统产品缺陷的认定方面，我们可以以“消费者合理期待标准”为主，主要参考人类驾驶员或是其他自动驾驶机动车驾驶行为来判断。例如，在相同条件下，人类驾驶员或者相同类型的自动驾驶机动车是否能更安全[14]。

我国还应当尽快制定和完善自动驾驶领域的强制性国家标准和行业标准，特别是有关自动驾驶机动车的算法系统的国家标准和行业标准。虽然产品符合国家标准或行业标准也有存在缺陷的可能，但是，国家标准或行业标准是最为直观的判断方法。算法系统国家标准或者行业标准建立后，判断算法产品是否具有缺陷，第一步就是看其是否符合标准，如果不符合标准，那么即可直接认定产品存在缺陷。

（三）引入算法解释权制度

2019年4月，欧盟发布《可信赖人工智能伦理准则》，负责数字经济的官员Mariya Gabriel 在解读该准则时表示，算法作出的任何决定都必须经过验证和解释[15]。算法解释权作为一种新兴权利，支持者众多，但反对意见亦客观存在。笔者认为，应当通过引入算法解释权制度，确保自动驾驶机动车算法具有可追溯性、决策具有可解释性，同时，有利于判断自动驾驶算法系统是否存在“不合理的危险”。

算法解释权是指当算法做出的自动化决策对算法交易相对人产生重大影响时，算法交易相对人要求算法背后的行为人对结果的来源（如算法的设计和运行过程）进行解释的权利[16]。

从法律关系上来看，算法解释权的权利主体是权益受到自动化决策并产生重大不利影响的个人，义务主体是算法的生产者和设计者，即自动驾驶机动车的生产商或者自动驾驶系统生产商。

通过算法解释权的设置，首先，可以提高算法决策的透明度和决策结果的公正性；其次，有利于保护相对人的合法权益，弱化相对人在因果关系要件上的举证责任；最后，通过算法解释权的设置可以促进自动驾驶算法技术的良性发展。算法解释的目的是使相对人了解算法自动化决策是如何产生的，在发生算法错误侵害时，为相对人提供相应的救济[17]。

面对算法缺陷造成的不良影响，算法解释义务主体往往以算法技术复杂性和不可解释性转移算法责任。这种将算法责任藏匿于技术盾牌之后，希望避免承担算法责任的做法已经客观上成为算法治理的巨大难题。笔者认为，应当通过引入算法解释权制度，确保自动驾驶机动车算法具有可追溯性、决策具有可解释性。

（四）引入专业机构参与判断自动驾驶机动车算法系统缺陷与损害后果之间的因果关系

有学者认为，高新技术产品造成损害的原因不易举证，可以要求生产者担负证明产品缺陷不存在，或者缺陷与损害之间不存在因果关系的责任，将受害人证明产品缺陷存在和因果关系的举证责任转移到生产者身上。笔者认为，产品责任虽然是严格责任，但法律并未规定产品责任适用因果关系推定与举证责任倒置，也没有特别规定在高新技术产品中适用举证责任倒置。就算法律规定高科技产品责任适用举证责任倒置，在实践中，如果生产者提出了缺陷与损害之间不存在因果关系的证据，受害人一方可能认为生产者将缺陷产品单方委托他人检测，容易恶意控制检测结果，造成检测结果不真实的情况，导致受害人不认可生产者单方提出的证据，受害人一方将会继续举证。笔者认为，可以参考医疗纠纷中医学会、司法鉴定机构作出医疗损害鉴定意见的方式，在出现无法判断自动驾驶系统算法缺陷与损害后果之间的因果关系时，生产者和受害人可以共同选定或随机选定第三方鉴定机构，由第三方机构出具损害结果与缺陷之间是否具有因果关系的意见。

此外，自动驾驶机动车的“黑匣子”存储了车辆行使过程中的各项数据，对于判断交通事故的发生原因是极为重要的证据。以往受害者获取“黑匣子”数据信息相对困难，但通过监管机构的数据平台对数据进行保留是一种可行的措施。例如，上海市对“黑匣子”数据上传问题进行了规定，2023年3月21日，《上海市浦东新区促进无驾驶人智能网联汽车创新应用规定实施细则》中规定，创新应用车辆应实时向浦东新区智能网联汽车数据平台回传信息并自动记录和存储各项信息，能记录车辆发生事故或者失效的状况发生之前至少90秒的相关数据，并且数据存储的时间不能少于1年。这种将数据实时记录并上传至监管平台的方式有利于证据的收集和受害者对证据的提取。

最后，在确定人类驾驶员与自动驾驶机动车的责任比例时，引入算法参与度评估作为人机混合驾驶中责任划分的依据。由于算法决定了自动驾驶机动车的实际运行模式，通过算法解释权的设置，第三方评估机构可以在了解算法逻辑的前提下，结合“黑匣子”的数据内容，做出专业判断，最终产生算法参与度评估。算法参与度评估作为一种证据，可以作为裁判的依据，是判定自动驾驶机动车侵权的有效途径。

（五）优化发展风险抗辩的适用

笔者认为，在自动驾驶机动车的产品侵权中，不应一味排斥发展风险抗辩的适用，应当适当排除生产者对发展风险抗辩的适用，优化发展风险抗辩才更有利于平衡各方利益。

首先，在发展风险抗辩中，应当要明确投入流通时的技术水平应当以当时世界最高科技水平判断。就自动驾驶机动车而言，我国的技术水平并未显著落后于世界水平，采用世界最高标准具有现实性。以最高科技水平作为标准能够为生产商建立起良性的激励机制；生产商只有掌握最高科技水平或不断更新研发相关科技，方能增加竞争优势进而拓展市场份额，用巨大利益作为驱动力，促使自动驾驶机动车生产商自我技术革新。有学者在对《产品质量法》的释义中曾特别指出，评断产品是否能为投人流通时的科技水平所发现，不是依据产品生产者自身所掌握的科学技术水平来认定的，应当以当时整个社会所具有的最高科技水平来认定[18]。故笔者认为，在自动驾驶算法系统缺陷中，应当以当时世界最高科技水平作为判断是否可以适用发展风险抗辩的依据。

其次，应当限制发展风险抗辩的适用范围，发展风险抗辩不应适用于制造缺陷和营销缺陷，因为制造缺陷是制造过程中未按照设计方案制作的问题，而营销缺陷是指警示说明不充分的缺陷，这两种缺陷都与科学技术无关。

最后，建立发展风险抗辩后的损失分担机制。发展风险抗辩的适用也需要平衡生产者和受害人的利益，如果适用发展风险抗辩完全免除了生产者的责任，后果全部由受害人承担，这显然加重了受害人的负担。为了最大程度的规避发展风险抗辩带来的消极影响，最大限度的保护受害人的利益，建立发展风险抗辩后损失分担机制是非常重要的。

2020年，欧盟在《关于人工智能系统运行的责任立法倡议》中指出，考虑到自动驾驶汽车的高风险属性，理当强制生产者购买责任保险，以便在一定范围内解决无法适用产品责任的受害人的损害分担问题[19]。另外，如果出现责任保险不足以赔偿受害人损失的情况，还可考虑由生产者给予受害人适当的补偿，以平衡双方的权益。由于现阶段自动驾驶技术尚不成熟，损害赔偿问题从由当事人分担，到发展为整个社会分担损失的趋势。这也符合现代侵权法从重点强调承担过错的功能转移到补偿损失功能的变化。为此，还需要明确与发展风险抗辩相配套的风险分担机制，通过风险分担机制来合理的解决受害人的救济难题。

四、结语

自动驾驶技术拥有广阔的前景，在可预见的未来，道路交通必是属于自动驾驶的舞台。毕马威（KPMG）曾向社会发布2020 年度“自动驾驶汽车成熟度指数”报告，旨在评估各国部署自动驾驶汽车的准备情况。该报告在政策、立法、技术、创新等方面对全球25个国家进行了综合排名，我国在被统计的25个国家中排名第20位，自动驾驶技术排名第19位；我国排名较为落后的一大原因就是立法相对滞后和监管相对保守。时至今日，我国在技术方面已经进入世界领先水平，但现有的法律规范仍然落后于技术发展的步伐，只有厘清当前法律适用中的困境，才能为自动驾驶算法系统的法律规制建设奠定基础，寻求解决方案。最终目的是通过完善自动驾驶算法系统产品侵权的法律规范，促进自动驾驶机动车产业的发展，使我国在自动驾驶领域处于世界领先地位，真正成为全球人工智能的领导者。