自动驾驶汽车相关犯罪主体的刑事责任限缩路径

张锐?张剑韬

摘 要｜自动驾驶汽车面临着传统道路安全方面的直接风险和数据信息网络安全方面的间接风险。自动汽车本身可以成为刑事责任主体。自动汽车驾驶者根据自动驾驶的不同类型、程度相异的情况承担刑事责任。法人如未尽到事前注意义务和事后注意义务则应承担相应的刑事责任。规制自动驾驶汽车犯罪，刑法需合理划定处罚边界。对于法人因过失造成被容许的危险时，应排除在犯罪圈之外。

关键词｜自动驾驶；刑事责任；注意义务；犯罪的二次性违法；被容许的危险

Copyright ? 2024 by author （s） and SciScan Publishing Limited

This article is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License. https：//creativecommons.org/licenses/by-nc/4.0/

随着物联网、人工智能、数据通信等技术的迅速发展，现代社会人与人、人与物，以及物与物之间的联系变得愈加紧密，人类生活更加便捷化和智能化。交通事故的频繁发生是交通安全领域不容忽视的问题，根据2021年全国交通事故统计数据，交通事故死亡人数高达61，703人，受伤人数更是高达250，723人。自20世纪70年代以来，美、英、德等发达国家开始投入研究无人驾驶汽车技术，我国也不断加大对自动驾驶汽车的研究力度，许多国内车企和互联网企业参与其中。自动驾驶汽车技术具有良好的应用前景，其研发是降低交通事故发生率、保障交通运输安全的关键所在。

2022年8月1日，《深圳经济特区智能网联汽车管理条例》的施行，标志着自动驾驶时代的到来。然而，新型智能驾驶技术还未经过充分的实践检验，在道路行驶中仍然存在安全隐患。如同年11月5日，广东潮州某车主驾驶特斯拉时，该自动驾驶汽车突然失控，造成2死3伤的后果。与传统驾驶方式相比，自动驾驶汽车具有显著的差异，传统驾驶者逐渐退出历史舞台，智能驾驶系统成为道路交通主导者。智能交通产业链中涉及的各种刑事风险，传统刑法体系难以对其刑事责任主体进行恰当规制。因此，本文希望探究自动驾驶汽车可能带来的具体刑事风险，厘清自动驾驶汽车涉及的犯罪主体，坚持罪责相适应原则，明确刑事责任限制。

1 自动驾驶汽车的刑事风险

自动驾驶汽车，又称“智能网联汽车”，是指采用环境感知技术、车辆定位技术、大数据处理技术，使驾驶员在一定程度上无需操作，让汽车在道路上自动驾驶的新型汽车。目前世界上最广为人知的标准是来自美国机动车工程师学会（SAE）的标准，采L0-L5标准分级方法。我国则根据此建立特有的分级标准，《深圳经济特区智能网联汽车管理条例》规定，自动驾驶汽车包括有条件自动驾驶（CA）、高度自动驾驶（HA）和完全自动驾驶（FA）三种类型。其中，有条件自动驾驶和高度自动驾驶的最大区别在于，遭遇自动驾驶汽车无法处理的紧急状况时，有条件自动驾驶会请求驾驶者接管，高度自动驾驶系统则会自行采取措施将车辆的事故风险降低至可接受程度。完全自动驾驶就是无人驾驶状态，此时系统可以在任何可行驶条件下实现全部动态驾驶任务。因此，在不同自动驾驶等级下，汽车造成风险程度和责任承担范围有明显差异。

众多互联网企业，如华为、百度等，正在研究自动驾驶汽车技术，以新能源汽车为基础。尽管传统燃油汽车和新能源汽车都能成为自动驾驶系统载体，但新能源汽车的控制系统更为简单，更容易实现快速、准确、稳定的自动驾驶控制。当自动驾驶汽车在交通道路上行驶时，除了需要配备传感器、控制器、激光雷达、全球定位系统等装置，还需要配套信息网络设施、信息共享基础设施、等智慧城市基础设施。因此，自动驾驶汽车不仅面临传统道路安全风险，还会受到网络安全方面的威胁。

1.1 自动驾驶汽车直接风险

2016年5月7日，在佛罗里达州，特斯拉车主使用自动驾驶系统行驶。在一个没有红绿灯的十字路口，一辆大型牵挂型卡车突然左转，特斯拉没来得及刹车导致车辆与卡车相撞，车主布朗当场死亡。该事故的原因是自动驾驶汽车的环境感知模块出现问题，特斯拉没有识别出前方静止的物体，其认为涂满白色油漆的卡车是天空，于是径直加速造成车祸［1］。自动驾驶汽车设计的目的在于减少交通事故，但是就现有技术而言，交通事故的发生仍然难以避免。自动驾驶汽车运行路径是通过摄像头、传感器、激光雷达收集周围环境信息，然后传输到计算机信息平台进行处理，最终实现车辆动作控制。但是，汽车的传感器在行驶中出现故障时，极易造成信息收集得不充分，导致系统作出错误判断。此外自动驾驶汽车进行路径规划时，必须依赖详细的内部地图，当城市建筑物发生新建、拆毁、修建等情形时，自动驾驶汽车的地图软件如果没有及时更新，将导致系统在设计城市内部路径时出现障碍。自动驾驶汽车发生类似故障时，乘车人的生命、健康和财产遭受直接危险。

1.2 自动驾驶汽车间接风险

当自动驾驶汽车成为主流，我们需要警惕网络恐怖主义和黑客入侵，以保证智能交通的安全秩序。自动驾驶汽车之间的网络通信是在公开网络中进行的，而这种连接方式多种多样，包括蓝牙等短程接口、5G等蜂窝接口以及V2V和V2X接口。这些无线技术在不同的频率下工作并遵循不同的标准。因此，我们需要全面保护自动驾驶汽车免受黑客攻击，这是一个重要的挑战。黑客入侵车内网络通信可能会获得行驶汽车的控制权，从而实施恐怖犯罪，破坏正常道路交通秩序。甚至可以通过控制车辆实施故意杀人。因此，企業应投入更多资源用于自动驾驶汽车网络防护，以确保智能交通的安全。

自动驾驶汽车引发的数据保护和隐私问题是至关重要的。在行驶过程中，自动驾驶汽车会产生车辆行驶数据、车辆状况数据、行动轨迹数据、身份信息数据等大量数据。虽然自动驾驶汽车越来越多地被设计为本地收集、处理和存储数据，并在适当时候有选择地上传数据，但由于数据量庞大，这对车内和云端的数据存储和计算基础设施提出了考验。目前，我国的个人信息保护法规还不够完善，自动驾驶汽车的数据隐私、位置隐私、身份隐私很容易受到侵犯。这些数据的泄露可能成为滋生诈骗、盗窃、抢劫等犯罪的土壤。犯罪分子很容易以低廉的价格获得公民数据信息，进而实施犯罪行为。为了平衡个人权益保护和公共安全保护之间的关系，需要进一步完善个人信息保护法、数据法等相关法律。作为重要部门法之一，刑法在维护社会秩序和价值导向方面具有重大作用。解决自动驾驶汽车刑事风险，必须明确哪些主体能够承担刑事责任以及在什么范围内承担刑事责任。只有在明晰刑事责任主体的前提下，才能知晓如何运用现行刑事法律对新型自动驾驶犯罪进行规制。

2 自动驾驶汽车犯罪的刑事责任主体

传统交通道路犯罪，例如交通肇事罪、危险驾驶罪等，责任主体往往是汽车驾驶者或其他交通参与者。在传统汽车道路行驶中，驾驶者对汽车具有绝对的支配权。由驾驶者操控汽车实施犯罪行为，而汽车的设计者或生产者不对该行为承担责任。然而，在自动驾驶汽车行驶中，有条件的自动驾驶汽车在一定程度上对汽车具有控制权。在特殊情况下，驾驶者需要承担类似于传统交通事故的刑事责任。而在高度自动驾驶和完全自动驾驶中，驾驶者在行驶过程中的角色被削弱，甚至退居幕后。驾驶者不再是操作者，系统设计者所设计的程序成了行驶汽车的真正控制者。自动驾驶汽车背后的生产者、设计者成了造成具体危险的主体。以下将对不同自动驾驶等级犯罪的责任主体进行展开，讨论有关责任主体在现行刑法体系下的罪与非罪。

2.1 自动驾驶汽车本身作为责任主体

黑格尔认为，受到法律处罚的主体只能是人，而且是具有自由意志的人，自由意志具有自在性，不受外界的干扰，最能体现人之行为的法律性的就是自由意志，“作为生物，人是可以被强制的，即他的身体和他的外在方面都可被置于他人暴力之下；但是他的自由意志是绝对不可能被强制的”［2］。叔本华认为，“这使人异于动物的能力，达到概念的能力，自来就被称为理性”［3］。依据刑法，人作为犯罪责任的主体，是基于人类具备理性、自主意志和判断能力，以及对自身行为的控制能力。

有条件自动驾驶和高度自动驾驶不具有刑事责任，学界对此没有争议。但在未来产生强人工智能体，乃至超人工智能体时，无人驾驶汽车能否成为责任主体，学界对此各执一词，归纳起来有否定说和肯定说两种观点。肯定说中，有学者认为以人工智能产品是否具有辨认能力和控制能力，可以将人工智能产品划分为弱人工智能产品与强人工智能产品。弱人工智能实现的只是设计者和使用者的意志，只能将其看作实施犯罪的工具。真正的强人工智能可以产生超出设计和编制的程序，自主决策所实施的行为。强人工智能产品可以符合刑法所规定的犯罪构成中的主体要件［4］。也有学者基于法哲学意义上的思辨理性和实践理性，认为机器人具备“法律上的自由意志”和“理性”，在对其进行刑法规制时，不难证成其“自由意志”与“辨认控制力”［5］。

否定说中的观点与上述完全相反。有学者认为主体具有作出选择和行动的自由意志，其实践活动具有计划性和目的性，能够有意识地规划和设想未来。而 AI 只会按既定规则行动，只会机械地、精确地执行逻辑运算指令［6］。有学者基于客观归责理论，认为无人驾驶汽车完全自动驾驶模式下交通肇事犯罪的刑事责任主体应当是包括设计者、制造者、智能技术支持者在内的生产商和使用者，承担过错责任，智能机器人不具备法律主体资格［7］。

本文认为强人工智能无人驾驶汽车能够成为责任主体，这一观点值得肯定。强人工智能具备理性，可以理解抽象的概念。与人类不同，人工智能无需经过孩童到成年人的漫长过程，通过对人类经验的学习就能够完全理解抽象概念。随着科技的不断进步，强人工智能的环境感知能力和信息传输能力也将得到提升。基于数据化大脑的智能生命体可以理解法律条文，并具备更强的辨认和控制能力。有学者认为无法查明人工智能是否具有主观过错［8］。在设计时，强人工智能的程序中通常设定必须遵守的原则，例如机器人学三定律提出的原则。如果强人工智能实施违法行为，可以通过提取其程序运行记录来判断其是否在规则范围内运行，当越过规则红线时可以认定其主观过错的存在。尽管系统设计者会为强人工智能设计特定的使用领域，但是在不同的环境、人员和频率下，其会形成具体独特的运行方式。因此，人工智能具有意志自由，能够成为刑事责任主体。

2.2 驾驶者作为责任主体

在从有条件自动驾驶到完全自动驾驶的发展过程中，驾驶者的角色逐渐消失。自动驾驶汽车技术发展中，人为干预的作用在逐渐减少，人为干预的机会逐渐减少，对车辆的控制能力和监督义务也随之变化［9］。在有条件自动驾驶系统中，驾驶者在极端特殊情况下，例如大雪、暴雨等，仍需要具备操控汽车和注意外界的能力。而在完全自动驾驶系统中，无论何种情形下，系统都会自主作出判断和指令，驾驶者完全不需要承担注意义务。交通肇事罪和危险驾驶罪是道路交通领域发生率最高的罪名之一。在自动驾驶时代，这两种罪名的适用范围和责任主体的认定将发生变化。危险驾驶罪是抽象危险犯，根据该罪的规定，醉酒驾驶机动车的行为将受到拘役和罚款的处罚。由于醉酒驾驶机动车时，驾驶者缺乏正常的判斷和控制能力，容易对道路安全造成危险。在有条件自动驾驶汽车中，驾驶者在特定情况下需要接管汽车的控制，因此，即使驾驶者醉酒驾驶机动车，仍然可能构成危险驾驶罪。然而，在高度自动驾驶汽车和完全自动驾驶汽车中，汽车的控制中枢实际上是由系统扮演的，而驾驶者则只是乘客角色。在这种情况下，行为人醉酒后将无法操作汽车，也没有相关的责任和能力。系统将按照路径规划进行行驶，因此，行为人将无法成为危险驾驶罪的责任主体。

交通肇事罪是过失犯和结果犯，而传统汽车驾驶者则负有直接且完全的注意义务。传统汽车驾驶者如果违反交通运输法规导致法定危害结果发生，就可以被认定违背注意义务。然而，高度自动驾驶汽车和完全自动驾驶汽车的驾驶者在行驶中没有任何注意义务，且主观上也不可能存在过错。有学者认为，怠于维修、保养或定期维护汽车安全行驶状态的，可以视为没有履行结果回避义务，是认定过失责任的考量因素［10］。在此情况下，汽车生产商完全有能力设计程序，让自动驾驶车辆在无法安全驾驶状态下停用，从根源上避免该类事故的发生，而不是赋予驾驶者更高的注意义务。因此，安全驾驶状态标准的等级划分需要社会大众和行业机构共同协商，确定最低限度的自动驾驶车辆行驶标准，以实现驾驶权力和驾驶安全协调。

有条件自动驾驶汽车要求辅助操作者在遭遇自动驾驶汽车无法处理的紧急状况下接管驾驶。因此，在这种条件下，辅助操作者负有注意义务。如果辅助操作者违反注意义务导致重大事故发生，将构成交通肇事罪。但要求辅助操作者承担刑事责任，意味着车辆行驶期间要担负全部注意义务，这显然是不合理的［11］。辅助驾驶者对注意义务的违反以一般过失为基础较为合理，这也符合自动驾驶汽车解放人力、轻松出行的设计理念。辅助驾驶者承担的最低注意义务在于，事故频发地带自动驾驶汽车发出提醒信号时，辅助驾驶者负有注意信号操作汽车的义务。但若驾驶者已尽客观注意义务却仍发生法益侵害结果，其过失罪责因欠缺客观归责性而不成立［12］。值得注意的是，目前自动驾驶汽车技术仍然存在很多问题。传感器故障、地图更新滞后等问题都可能导致系统错误判断，进而引发交通事故。因此，自动驾驶汽车的法律责任问题需要综合考虑各种因素，并逐步完善相关法律法规。

2.3 法人作为责任主体

法人成为犯罪主体，肇始于英美法系国家。法人刑事责任的确立和发展，与英美法系国家的工业化进程几乎是并駕齐驱的［13］。佛罗里达州特斯拉车祸事件中，自动驾驶汽车的设计者和制造商可能会承担刑事责任。法律体系中的单位犯罪已成为全球刑法发展的趋势，这包括自动驾驶汽车行业。自动驾驶汽车的设计者和制造商被视为法人，应该承担内在事故引起的刑事责任。设计者、制造商是否承担内在事故引起的刑事责任的关键在于其“保证人”地位的满足［14］。这意味着设计者、制造商需要在产品设计和制造过程中，确保其产品的安全性符合社会公众的期望，同时在事后及时采取措施防止类似事件的再次发生。然而，要求制造商、设计者避免所有自动驾驶汽车产生的风险是不现实的，也不利于新技术的发展。因此，制造商、设计者应该在利益衡量原则的基础上，合理地控制风险，并在必要时承担刑事责任。法人的注意义务具有不同时空性、间接性的特点，对此法人的注意义务可以分为事前注意义务和事后注意义务，即在设计和制造产品的过程中应该尽可能地预见和避免潜在风险，同时在事故发生后，采取适当的补救措施并为损害赔偿承担相应的责任。

在生产和设计自动驾驶汽车时，法人应当遵守法律法规，确保车辆的构造符合国家标准和行业标准。为了满足这些要求，法人应将适法性要求，如“交通运输管理法规”和“有关无人驾驶车辆的特别交通运输管理法规”等，嵌入无人驾驶系统的算法中。如果法人未安装预警系统、人工干预装置等，导致车辆在天气灾害或特定区域发生事故，则视为违反事前注意义务，构成过失犯罪。此外，自动驾驶汽车在行驶过程中会产生大量数据，涉及身份隐私、个人隐私和数据隐私。生产商在收集数据时应采取数据安全保护措施，防止数据泄露或被违法违规利用。如果信息数据泄露造成严重后果，生产商可能会被认定为侵犯公民个人信息罪。事后注意义务是指，车辆发生道路交通事故后，法人应当确认产品是否存在缺陷或安全隐患，并采取系统更新、召回发售汽车、停止生产汽车等行为。这是为了保证汽车安全和保障公共利益，也是法人的法律责任。

3 自动驾驶汽车犯罪的刑法规制限缩

目前，我国正在加快进入风险社会。在这种情况下，积极主义刑法观认为刑法应提前参与保护法益，通过扩大犯罪圈实现刑法预防的积极目的。然而，积极刑法观的倡导导致刑法呈现工具化主义，国家刑罚权严重膨胀，从而动摇罪刑法定原则的地位。此外，必须特别注意的是，人类用来应对风险的治理手段，本身就是滋生新型风险的罪魁祸首［15］。因此，当面对新型自动驾驶汽车犯罪时，我们应该恪守刑法的谦抑性，划分刑法处罚的范围，并使用犯罪的二次性违法原理。同时，我们应该运用信赖利益原则、被允许的危险等理论，以保障公民和法人的自由和权利。

3.1 确立刑法处罚边界

自动驾驶汽车事故是典型的刑民交叉案件。当自动驾驶汽车导致驾驶者受到轻度法益侵害时，操作者可以追究生产商或销售者的侵权责任，并根据消费者权益保护法要求生产者、销售者进行惩罚性赔偿。而对于造成严重法益侵害的行为，必须依据刑法追究驾驶者、法人的刑事责任。因此，如何界定刑法与其前置法的管控领域，划清违法行为和犯罪行为的界限，是处理自动驾驶交通案件的关键。在实践中，有法官曾讲述某公安部门对深层链接的行为是否构成民法侵犯著作权都存有疑问的时候，却仍试图加以立案侦查，争做处理此类案件的“领头羊”，尽管后来由于某些原因未能实施，但从此不难看出司法实践中普遍的“先刑后民”的观念和做法［16］。我们必须坚持以犯罪的二次性违法原理确立刑法处罚边界，以保障公正和合理的司法判断。

犯罪的二次性违法原理是指，刑法在民事法、行政法等第一次法规范对正常社会关系进行调整的基础上，通过追究刑事责任、裁量和执行刑罚的方法对第一次法调整无效的严重不法行为进行第二次调整。因此，任何犯罪行为都具有两次性违法的特征［17］。在处理刑民交叉案件时，刑法规制的犯罪行为必须以严重的社会危害性为前提。在前置法无法对违法行为进行规范调整时，刑法作为保障法得以使用。在自动驾驶事故中，生产商和供应商在交通事故中，如果能够通过前置法承担责任和履行义务，则无需作为刑事主体受到评价。《深圳经济特区智能网联汽车管理条例》中第六十条规定，智能网联汽车产品生产者、销售者违反本条例第三十一条第二款的规定，未建立技术支持或者救援服务机制的，由有关部门依法责令限期改正；逾期未改正的，处以五万元以上五十万元以下罚款。在没有造成严重后果时，生产商、销售商无需承担刑事责任。

罪刑法定原则是刑法的基础和核心原则，从形式上划分了刑法的基本边界。即使是具有严重社会危害性的自动驾驶犯罪行为，只有当其符合犯罪构成要件时，刑法才能加以制约。换言之，那些无法被类型化的行为，即便具有社会危害性，也可能无法进入到刑法的干涉范围，这是法治主义的形式合理性要求的应有之义［18］。建立在比例原则的基础上，犯罪与刑罚之间的关系应当保持平衡，刑罚应当在最低限度内实现预防和惩罚犯罪的目的。然而，目前以醉酒型危险驾驶罪为首的轻罪罪名标签化越来越严重，带来了犯罪附随后果的问题。因此，我们需要明确刑法的界限，倡导行政法、民法等前置法先行规制，以预防自动驾驶事故的发生。

3.2 法人责任限缩

自动驾驶技术的创新实践中存在一定的风险，然而，如果刑法对技术创新活动贸然进行评价，将不利于自动驾驶产业的发展。因此，许多学者主张使用“被容许的危险”理论作为阻却行为不法的排除事由。“被容许的危险”理论是刑事立法所需参考的标准，其作用在于通过对行为有用性及危险性的衡量，从而限制社会危害性在刑事立法中的扩张，保持刑法的谦抑性［19］。有学者认为，被允许的危险已经成为可以同时用于故意犯罪和过失犯罪，并且构成要件该当性阶段排除的理论，而这一理论的前提则是：（1）概括的利益衡量；（2）有立法设定的注意义务［20］。有学者持不同意见，认为“被容许的危险”理论只能在过失犯罪中适用，被允许的风险针对的应是具体案件而非一般的技术应用风险［21］。笔者认为，“被容许的危险理论”只适用于过失犯罪。该理论和行为无价值论紧密相关，当行为人积极希望法益侵害结果发生时，不能适用该理论排除责任。在具体案件中，即使行为人造成了法益侵害的风险，由于行为人已满足法规范的要求，且主观上不希望法益侵害结果发生，因此不能将法益侵害结果归属于行为人。

“被容许的危险”概念是，虽然行为对被侵害人的财产安全、身体健康和生命安全等法益具有一定的侵害危险，但是为了维护现代共同的生活，就要容許危险在一定范围内存在［22］。被容许的危险的实质依据在于，价值判断中社会群众为实现整体秩序和利益，愿意承担相当程度上的风险，从而阻却不法的危险行为。适用“被容许的危险”理论的关键在于，确定被容许风险的具体判断标准。符合法规范的判断标准是，行为达到了法规范要求的谨慎程度、行为维护了宪法上公民的基本权利和行为，遵守了其他社会子系统的归责［23］。

法人达到法规范要求的谨慎程度是指，在事故发生前采取必要的预防措施来避免结果的发生，并且在该事前注意规范的基础上符合特定行业标准。在自动驾驶汽车上路前，生产商会进行仿真性模拟测试，并对自动驾驶汽车的生产设计进行调整。如果生产商未达到行业标准的自动驾驶汽车发生事故，则法人应被视为未履行注意义务，并需要承担刑事责任。法人维护宪法上公民基本权利，意味着法人需要保护公民的人格尊严不受侵犯，包括言论自由、通信自由等宪法权利。生产商已经采取合理措施保护汽车行驶数据和维护用户通信秘密，以保障宪法基本权利不受侵犯。如果黑客利用行业内未发现的系统漏洞攻击生产商服务器，造成用户个人信息数据泄露，则该危险属于被容许的危险，生产商不具有刑法上的可谴责性。法人遵守其他社会子系统的归责，包括生产商在收集和使用用户数据时，需要符合个人信息系统内被容许风险的判断标准。如果生产商在未经用户同意或不是为了重大公共利益的情况下，使用自动驾驶过程中的信息数据，导致公民个人信息隐私泄露，则该危险不属于被容许的危险，法人需要承担过失责任。

4 结语

智慧城市是应对人口膨胀、交通拥堵、环境保护和安全等问题的有效手段，而智慧交通的发展则是实现智慧城市落地的前提条件。然而，智能网联汽车的上路行驶对社会的风险前所未有。面对个人信息泄露、道路交通事故等风险，应当坚持先由民法、行政法、个人信息保护法等前置法律先行，实现公民个人权利保护和犯罪惩罚平衡。在新兴技术快速发展的背景下，政府、企业和公民需要协同合作，共同承担起安全社会的责任。

参考文献：

［1］Jordan Blair Woods．Conventional Traffic Policing in the Age of Automated Driving［J］．North Carolina Law Review，2022（100）：327-374．

［2］［德］黑格尔．小逻辑 ［M］．贺麟，译．商务印书馆，1980：393-394．

［3］［德］叔本华．作为意志和表象的世界［M］．石冲白，译．商务印书馆，2018：30．

［4］刘宪权．人工智能时代的“内忧”“外患”与刑事责任［J］．东方法学，2018（1）：134-142．

［5］龙文懋．人工智能法律主体地位的法哲学思考［J］．法律科学（西北政法大学学报），2018，36（5）：24-31．

［6］张劲松．人是机器的尺度：论人工智能与人类主体性［J］．自然辩证法研究，2017，33（1）：49-54．

［7］廖兴存．无人驾驶汽车交通肇事过失刑事责任论纲［J］．湖南社会科学，2021（3）：122-130．

［8］陈结淼，王康辉．论无人驾驶汽车交通肇事的刑法规制［J］．安徽大学学报（哲学社会科学版），2019，43（3）：116-123．

［9］Bela Csitei．Self-Driving Cars and Criminal Liability［J］．Debreceni Jogi Muhely， 2020（3/4）：34-46．

［10］刘德法，白雅楠．意志与意识：人工智能无人驾驶汽车刑事责任论［J］．中州大学学报，2022，39（1）：54-61．

［11］彭文华．自动驾驶车辆犯罪的注意义务［J］．政治与法律，2018（5）：86-99．

［12］张宇．自动驾驶刑事责任主体地位及其责任分配［J］．中南民族大学学报（人文社会科版），2021，41（9）：106-114．

［13］彭文华．自由意志、道德代理与智能代理——兼论人工智能犯罪主体资格之生成［J］．法学，2019（10）：18-33．

［14］李亚龙．无人驾驶汽车的刑事风险：构想与应对［J］．大连海事大学学报（社会科学版），2020，19（2）：41-51．

［15］卢建平．风险社会的刑事政策与刑法［J］．法学论坛，2011，26（4）：21-25．

［16］李灿．风险社会背景下中立帮助行为可罚性探究——基于德日刑法理论的对比考察［J］．东南大学学报（哲学社会科学版），2016，18（S2）：77-81．

［17］劳东燕．刑法基础的理论展开［M］．北京大学出版社，2008：27．

［18］王充．中国的刑法观：问题类型与立场选择［J］．法学，2022（11）：60-73．

［19］李腾．论“被容许的危险”理论在监督管理过失犯罪中的功能定位［J］．郑州大学学报（哲学社会科学版），2021，54（5）：39-44．

［20］储陈城．自动汽车程序设计中解决“电车难题”的刑法正当性［J］．环球法律评论，2018，40（3）：82-99．

［21］皮勇．论自动驾驶汽车生产者的刑事责任［J］．比较法研究，2022（1）：55-70．

［22］王雅佳．科技创新的刑事风险类别与刑法介入的限度［J］．大连理工大学学报（社会科学版），2022，43（4）：83-90．

［23］喻浩东．被容许的风险：法理表达与实践展开［J］．法制与社会发展，2022，28（6）：137-155．

The Path to Criminal Liability Limits for Self-driving Cars

Zhang Rui Zhang Jiantao

School of Criminal Justice，Shanghai University of Political Science and Law， Shanghai

Abstract： Autonomous vehicles face direct risks from traditional road safety and indirect risks from data information network security. The automatic car itself can become the subject of criminal liability. Autonomous vehicle drivers are subject to varying degrees of criminal liability according to different types of autonomous driving. If the legal person fails to fulfill the duty of care before and after the duty of care should bear the corresponding criminal responsibility. To regulate the crime of autonomous driving vehicle， the criminal law needs to reasonably delimit the penalty boundary. The legal person should be excluded from the criminal circle if he or she causes permissible danger through negligence.

Key words： Automatic driving; Criminal liability; Duty of care; Secondary offence of crime;  Permissible danger