智能诊疗机器人侵权致害问题探析

摘      要：新技术在推动人工智能向医学领域延伸之际亦导致智能诊疗侵权风险剧增。智能诊疗机器人法律主體资格难以证立、智能诊疗机器人因自身缺陷侵权致害举证难、产品责任与医疗损害责任无法有效应对智能诊疗机器人侵权致害等问题已成为社会热议的焦点。应采取细化智能诊疗机器人产品缺陷标准、确立医疗机构举证责任倒置规则、设定智能诊疗机器人专门账户或保险等方式，应对智能诊疗机器人侵权致害的风险。

关  键  词：智能诊疗机器人;诊疗侵权;产品责任;医疗损害责任

中图分类号：R318.6        文献标识码：A        文章编号：1007-8207（2021）11-0087-06

收稿日期：2021-04-20

作者简介：王霄，贵州大学法学院硕士研究生，研究方向为民商法。

基金项目：本文系贵州省2018年哲学社会科学规划青年课题“互联网+时代新兴特殊私权的民法保护研究”的阶段性成果，项目编号：18GZQN29。

人工智能（Artificial Intelligence，以下简称AI）发展已进入新阶段，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。2017年7月8日，国务院印发《新一代人工智能发展规划》，提出要“把人工智能发展放在国家战略层面系统布局、主动谋划，牢牢把握人工智能发展新阶段国际竞争的战略主动，打造竞争新优势、开拓发展新空间”。[1]作为AI中使用早、效用高、发展快的新型科技产品，智能诊疗机器人在普及率日趋上升的同时，也因自身缺陷、指令输入错误等原因引发了若干侵权事件，如何规避智能诊疗机器人侵权引发的致害责任问题已成为不可忽视的课题。

一、智能诊疗机器人侵权主体认定之难

AI在医学领域主要运用于虚拟助理、医学影像、辅助诊疗、疾病风险预测等八大场景，其通过自主学习，掌握医务人员对患者诊疗的一般规律，给出治疗方案。[2]目前，智能诊疗机器人凭借其高效能的优势而深得医疗机构青睐，甚至呈现出AI辅助治疗占据主导地位的态势，但由此引发的侵权案件数量也不断攀升。美国自21世纪开始截止至2013年由达芬奇机器人以及沃森机器人引发的案件有1391件，144人失去生命。[3]在我国，笔者以“智能诊疗机器人侵权”为关键词在中国裁判文书网上进行查阅，仅检索到案例20件。笔者选取较有代表性的4件案例加以分析后发现（见下表），此类案例的案由均为“××医疗损害责任纠纷”而非“智能诊疗机器人侵权”。这说明，一旦医疗机构运用智能诊疗机器人辅助诊治出现侵权致害情况，受害人仅将智能诊疗机器人视为一种医疗机构工具，从而把诉求聚焦于医疗机构诊疗行为的正确性上。事实上，侵权致害结果极有可能是因智能诊疗机器人自身缺陷所导致的。究其原因，主要是由智能诊疗机器人侵权理论定位模糊、专门性制度规范缺失所引发的。

我国智能机器人典型案例分析

[案件名称 裁判要旨 裁判依据 李秀云、赵紫光与上海交通大学医学院附属瑞金医院医疗损害责任纠纷案[（2015）黄浦民一（民）初字第10481号] 医院在诊疗中存在过错，术前告知未充分，未进一步检查 《中华人民共和国侵权责任法》第16条、第22条、第54条 邹某某、赵某某医疗损害责任纠纷案[（2019）鲁02民终5081号] 医院未能及时发现患者病情，使患者丧失医疗机会 《中华人民共和国侵权责任法》第22条;《中华人民共和国民事诉讼法》第170条第1款第1-2项 李根泽等诉中国人民解放军第二炮兵总医院医疗损害责任纠纷案[（2015）西民初字第05701号] 医院手术不及时，未告知家属并发症风险 《最高人民法院关于适用〈中华人民共和国民事诉讼法〉的解释》（2015）第90条;《最高人民法院关于审理民事证据的若干规定》第71条;《中华人民共和国侵权责任法》第16条、第18条、第22条、第54条 库车县传染病医院与艾某某卡尔米日阿木提、孜亚旦木莫明医疗损害责任纠纷案[（2020）新29民终153号] 医院诊疗过错与患者死亡之间有因果关系 《最高人民法院关于民事诉讼证据的若干规定》第3条;《中华人民共和国民事诉讼法》第170条第1款 陈宁庆诉浙江省人民医院医疗损害责任纠纷案[（2015）杭下民初字第02817号] 医疗机构存在过错 《中华人民共和国侵权责任法》第16条、第54条、第57条;《中华人民共和国民事诉讼法》第64条第1款 ]

从性质上看，智能诊疗机器人侵权属于多数人侵权而非共同侵权。多数人侵权与共同侵权的区别在于，数个主体之间无意思联络分别实施侵权行为，而智能诊疗机器人的生产、销售与应用是相互衔接却彼此独立的环节——生产商与销售商负责外部缺陷检查，医疗机构输入指令使用。表面上医疗机构是对智能诊疗机器人侵权起决定性作用的主体，实际上产品自身缺陷、销售者不合理运输等都有可能导致侵权发生，甚至有可能是各方主体混合作用的结果。因此，智能诊疗机器人侵权可能涉及到生产、销售和医疗机构等多个无意思联络的主体，应承担按份责任。

一旦智能诊疗机器人侵权走上诉讼途径，按照《中华人民共和国民事诉讼法》第六十四条第一款“当事人对自己提出的主张，有责任提供证据”的规定，受害人须对损害事实、侵权行为进行举证。损害事实容易证明，但对于侵权行为主体究竟是谁受害人却很难举证。

其一，智能诊疗机器人侵权的主体可能是产销用中的任何一方甚至多方，让缺乏专业知识的受害人在无法区分不同主体对智能诊疗机器人管控权限的情况下去论述可能致损的侵权主体存在侵权行为显然是难以完成的任务。

其二，在AI自主性不断加强的趋势下，智能诊疗机器人程序本身运作的错误难以察觉，因而智能诊疗机器人侵权与医疗事故之间难以形成因果链条。况且，我国虽大力提倡使用智能诊疗机器人，却囿于财政负担实践中往往采取智能诊疗机器人与医务人员联合诊疗的模式。一旦出现侵权致害情况，缺乏专业知识的受害人无法判断侵权是来自医务人员还是机器人。

其三，以受害人的能力实难举证智能诊疗机器人存在缺陷或者在运输过程中出现问题。一方面，智能诊疗机器人的利他属性、不可预测性[4]和一定程度的自主性使其能够取代部分人类智力活动，因而颇受医疗机构青睐。但其在通过大数据和机器学习快速发展[5]的同时，与之配套的法律规范却屈指可数。笔者以“智能诊疗机器人”为关键词在北大法宝上进行检索，未得到结果;以智能诊疗机器人中最具代表性的“达芬奇机器人”为关键词进行检索，共得到3部地方规范性文件。其中《福建省医疗保障局、福建省卫生健康委员会关于开展按疾病诊断相关分组收付费改革试点的通知》仅提到“达芬奇机器人手术辅助操作系统由由患者个人自付”，《济南市物价局、济南市卫生计生委、济南市人力资源社会保障局关于放开知名专家诊察费等医疗服务项目价格的通知》和《淄博市医疗保障局、淄博市卫生和健康委员会关于公布部分医疗服务项目价格的通知》也仅在医疗服务项目中对其有所提及。另一方面，学界对于智能诊疗机器人能否作为独立的法律主体一直存在争议。“主体说”认为，法律人格的扩张趋势给智能诊疗机器人主体资格的取得提供了契机，[6]且智能诊疗机器人与民法中“物”的特征不符，现有规则已无法调整，因而独立担责解决纠纷显得犹为必要。[7]但该观点并未说明智能诊疗机器人在我国法律体系中属于自然人人格还是类似于法人的团体性人格，亦未回应何时会出现可以完全替代医务人员工作的机器人。“客体说”认为，赋予智能诊疗机器人法律人格不符合伦理要求;[8]智能诊疗机器人缺乏生理基础，不会发展出人脑机构;[9]能独立担责的是通用型机器人，智能诊疗机器人只能专研某个方向，未达需要新规则调整的程度;[10]赋予智能诊疗机器人独立地位会破坏多年稳固的民法框架。[11]“有限人格说”认为，人类不会设计对其生存构成威胁的产品，[12]如克隆技术和基因编辑技术因与传统伦理相悖遭到禁止即为证明，因此当人工智能具备能够超越程序设计的自主性时才应享有主体资格。在我国的司法实务中，相关部门主要持客体说，如2017年原国家食品药品监督管理总局发布的《医疗器械分类目录》将智能诊疗机器人认定为医疗器械，2019年发布的《国家药监局关于成立人工智能等3个医疗器械标准化技术归口单位的公告》强调智能诊疗机器人不具备独立法律人格。未来，随着智能诊疗机器人自主性的不断增强，实务中能否继续坚守客体说的堡垒尚需检验。基于上述原因，在智能诊疗机器人侵权案件中，法官出于审理准确性的考虑，而当事人出于提高胜诉概率的考虑，都会选择有明确指引的医疗损害规范去解决纠纷。

二、智能诊疗机器人侵权适用民法侵权责任规则之梗

在智能诊疗机器人侵权案件审理中一味套用医疗损害责任去追究医疗机构的责任显然有失偏颇，毕竟智能诊疗机器人的生产方或销售方亦有可能造成侵权结果。实际上，即便套用医疗损害责任也须满足《中华人民共和国民法典》（以下简称《民法典》）第七编侵权责任第六章医疗损害责任中的构成要件，即患者在诊疗活动中受到损害，医疗机构或者其医务人员有过错的;医务人员在诊疗活动中未尽到向患者说明病情和医疗措施，实施手术、特殊检查、特殊治疗时未及时向患者具体说明医疗风险、替代医疗方案等情况并取得其明确同意，不能或者不宜向患者说明的未向患者的近亲属说明并取得其明确同意;医务人员在诊疗活动中未尽到与当时的医疗水平相应的诊疗义务造成患者损害。就受害人而言，将证据形成证明的逻辑闭环是相当困难的。一方面，过错原则针对的是由人引发的侵权案件，而智能诊疗机器人并非真人，其只是在接到医务人员的指令后根据自身的算法程序完成诊疗行为，无法认识到自身引发的过错。若医务人员的指令输入正确，则可推知侵权事由为智能诊疗机器人运转失灵，此时就无法将责任归于医务人员。另一方面，由医疗机构替代承担智能诊疗机器人侵权的替代责任无法律依据。《民法典》第七编侵权责任设定了监护人替代责任（第一千一百八十八条）、用人单位及用工单位替代责任（第一千一百九十一条）、雇主替代责任（第一千一百九十二条）和生产者与销售者替代责任（第一千二百零四条）等，智能诊疗机器人侵权责任并未包含在替代责任的范畴里。

如若受害人举证智能诊疗机器人缺陷以寻求侵权救济，应采取何种制度以便于受害人证明缺陷确实存在，是引进专家鉴定还是直接由生产商举证又或者是由数据提供方主动提交数据配合诉讼的正常进行，[13]目前来看似可参照《民法典》第七编侵权责任第四章产品责任中的相关规定，其第一千二百零二条规定：“因产品存在缺陷造成他人损害的，生产者应当承擔侵权责任。”第一千二百零三条规定：“因产品存在缺陷造成他人损害的，被侵权人可以向产品的生产者请求赔偿，也可以向产品的销售者请求赔偿。”然而，司法实务中产品责任对智能诊疗机器人侵权案件并不完全适用。

其一，《医疗事故处理条例》第三十三条规定：“有下列情形之一的，不属于医疗事故：（一）在紧急情况下为抢救垂危患者生命而采取紧急医学措施造成不良后果的;（二）在医疗活动中由于患者病情异常或者患者体质特殊而发生医疗意外的;（三）在现有医学科学技术条件下，发生无法预料或者不能防范的不良后果的;（四）无过错输血感染造成不良后果的;（五）因患方原因延误诊疗导致不良后果的;（六）因不可抗力造成不良后果的。”生产商可以“现有医学科学技术条件下无法预料或者不能防范不良后果”为由反驳受害人的诉讼请求。此外，《民法典》允许受害人选择生产商或销售商寻求救济，这也有可能会出现生产商与销售商相互之间推诿责任的现象，导致侵权救济久拖未决。

其二，产品缺陷包括制造缺陷、设计缺陷、警示缺陷和跟踪观察缺陷四种类型，[14]让受害人去举证智能诊疗机器人缺陷属于哪种类型显然是强人所难。况且，我国目前的诊疗活动基本上采取的是“医务人员+AI”结合的模式，受害人无法直接判断出侵权是智能诊疗机器人缺陷还是医务人员输入指令错误造成的。即便认定是智能诊疗机器人缺陷导致的侵权，但AI产品的技术通常为生产商的核心人员掌握，受害人不具备专业知识与运行数据很难自行举证，若请专家辅助又会加大诉讼成本。

其三，受害人欲主张智能诊疗机器人存在缺陷，鉴定是明智之举。但我国目前既没有智能诊疗机器人专业鉴定机构，也没有相关的评定标准，受害人主张依据产品责任证明智能诊疗机器人缺陷的存在只能重现数据的运行过程，但智能产品的复杂性、系统崩溃等多种因素使得数据有时难以重现。[15]

三、智能诊疗机器人侵权致害破解之道

设定智能诊疗机器人缺陷标准  解决智能诊疗机器人缺陷证明难的关键是能够对缺陷作出明确说明。在我国，产品缺陷的认定标准大致可以分为消费者期待标准、成本效益分析标准、生产商特定的产品标准和法定标准。[16]就智能诊疗机器人而言，应在《中华人民共和国产品质量法》或相关医疗损害责任及产品责任中的官方解释中注明缺陷的含义。一是对缺陷的正面说明。因智能诊疗机器人属于专业性产品，诊疗中往往涉及患者的身体健康甚至生命，故应设定统一的机器人缺陷侵权国家标准并及时更新。二是鉴于目前我国对智能诊疗机器人的使用尚未普及到各地，可以考虑将几个使用智能诊疗机器人的医院作为试点，由其在官网上公布最新的智能诊疗机器人标准以及使用中出现的缺陷。[17]需要注意的是，试点医院公布的标准应保持一致，以便公众查阅。如此，既有助于生产者明晰产品存在哪种缺陷并寻找相应的改进方向，亦有助于侵权受害人或是对照标准查明缺陷是否存在，或是知晓是否有同类事件可以参考，从而选取最合适的解决方式。三是鉴于产品缺陷无法列举，可以考虑归纳几类常见的缺陷，[18]如智能诊疗机器人未经备案便投入市场使用并无法补充说明有合法来源的，经事后检测无法达到智能诊疗机器人平均诊疗准确率便使用的，程序出现重大漏洞的，等等。

调适举证责任分配方式  以往的智能诊疗机器人侵权案件中，无论受害人使用产品责任还是医疗损害责任均存在举证责任分配不当的问题。若要从根本上解决这一问题，必须重新调适举证责任分配方式。就医疗机构而言，智能诊疗机器人投入使用后，医疗机构对其接触最多，相较其他主体也更易察觉机器人本身缺陷。而且，在智能诊疗机器人诊疗过程中，指令的输入是关键，一旦出现误差，诊断错误的概率将大为提升。[19]因此，医疗机构应承担智能诊疗机器人有无缺陷、诊疗过程是否有误，指令输入是否正确，诊疗过程是否存在过错的证明义务。就生产商而言，其掌握关键核心技术并有能力解读智能诊疗机器人的运行数据，故无论受害人是否将其作为被起诉人，都应承担辅助举证义务，主动提交智能诊疗机器人的数据资料并附上机器人数据运行有无异常的说明材料，且要保证数据的真实性。此外，应厘清医疗机构、生产商和销售商、受害人三方的举证责任，即医疗机构的主要证明责任、生产商和销售商的辅助证明责任、受害人的简单证明责任。

构建风险分摊机制  其一，设立专门账户。具体操作流程为：按照智能诊疗机器人的功能分别建立专属账户，同一功能的按序编号;生产商存入资金;成立智能诊疗机器人赔偿委员会负责监管资金，并由其设置赔偿上限;[20]若智能诊疗机器人因缺陷等问题被召回或者停止生产，其账户内如有剩余资金，注销前由专业人员转入同一产品的下一账户中。如同一产品穷尽，则转入编号最前的同类流通产品账号内。其二，建立智能诊疗机器人强制责任保险制度。智能诊疗机器人强制保险合同的投保主体为生产商，一旦发生医疗侵权事故，可通过保险赔偿及时救济受害人。当然，医疗机构在使用诊疗机器人时亦可为其诊疗行为投保。若保险公司能够证明侵权责任来源于第三人时，可以事后向其追偿。其三，启用医疗储备基金。医疗储备基金的使用前提为生产商未缴纳智能诊疗机器人强制保险或者保险不足以赔偿全部损失，且智能诊疗机器人本身专门账户中不存在财产。该方式是垫底赔偿方式，若无法得以实施，则当事人的利益无法得到保障。因此，需要具有强制力支持的政府机关主导该基金账户的运行。需要注意的是，以上三种方式择一即可。如果强制性要求全部选择，会造成生产商前期投入成本过高，影响智能诊疗机器人价格与使用率。

【参考文献】

[1]国务院关于印发新一代人工智能发展规划的通知[EB/OL].中国政府网，http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

[2]曾田.人工智能创作的版权侵权问题研究[J].河北法学，2019，（10）：176-189.

[3]Homa Alemzadeh，Jaishankar Raman，Nancy Leveson，Zbigniew Kalbarczyk，Ravishankar K.Iyer..Adverse Events in Robotic Surgery：A Retrospective Study of 14 Years of FDAData[J].PLOS ONE，2016，11（4）.

[4]李坤海，徐来.人工智能对侵权责任构成要件的挑战及应对[J].重庆社会科学，2019，（2）：55-65.

[5]Chang，Jae-Ok·Kim，Hyun-Hee.Discussion on the Legal Status of Artificial Intelligence-Focusing on the Electronic Persons[J].Chung-Ang Journal of Legal Studies，2019，3（1）.

[6]徐慧丽.人工智能法律人格探析[J].西北大学学报（哲学社会科学版），2020，（1）：107-119.

[7]徐昭曦.人工智能有“法律人格”吗[N].学习时报，2019-11-06（06）.

[8]劉洪华.人工智能法律主体资格的否定及其法律规制构想[J].北方法学，2019，（4）：56-66.

[9]杨立新.人工类人格：智能机器人的民法地位——兼论智能机器人致人损害的民事责任[J].求是学刊，2018，（4）：84-96.

[10]吳习彧.论人工智能的法律主体资格[J].浙江社会科学，2018，（6）：60-66+157.

[11]吴汉东.人工智能时代的制度安排与法律规制[J].法律科学（西北政法大学学报），2017，（5）：128-136.

[12]袁曾.人工智能有限法律人格审视[J].东方法学，2017，（5）：50-57.

[13]孟亚楠.人工智能医疗产品侵权中的责任主体问题探究[J].东南大学学报（哲学社会科学版），2019，（S2）：91-95.

[14]杨立新.侵权责任法[M].北京：北京法律出版社，2018：218-219.

[15]Michael Lupton.Some Ethical and Legal Consequences of the Application of Artificial Intelligence in the Field of Medicine[J].Trends in Medicine，2018，18（4）.

[16]许中缘，范沁宁.人工智能产品缺陷司法认定标准之研究[J/OL].重庆大学学报（社会科学版），http：//kns.cnki.net/kcms/detail/50.1023.C.20200729.1627.004.html.

[17]胡元聪.我国人工智能产品责任之发展风险抗辩制度构建研究[J].湖湘论坛，2020，（1）：70-89.

[18]李润生，史飚.人工智能视野下医疗损害责任规则的适用和嬗变[J].深圳大学学报（人文社会科学版），2019，（6）：91-99.

[19]顾彦.人工智能赋能医疗数据是核心角色[J].中国战略新兴产业，2018，（5）：43-45.

[20]Michael Lupton.Some Ethical and Legal Consequences of the Application of Artificial Intelligence in the Field of Medicine[J].Trends in Medicine，2018，18（4）.

（责任编辑：刘亚峰）

On the Infringement of Intelligent Diagnosis and Treatment Robot

Wang Xiao

Abstract：While the new technology promotes the extension of intelligent machines to the medical field，it also leads to a sharp increase in the risk of infringement of intelligent diagnosis and treatment.It is difficult to establish the legal subject qualification of intelligent diagnosis and treatment robots，and it is difficult to determine the causal relationship between the damage suffered by victims and the defects of robots Product liability and medical damage liability can not effectively deal with the infringement caused by intelligent diagnosis and treatment robot，which has become the focus of social debate.Measures should be taken to refine the product defect standards of intelligent diagnosis and treatment robots，establish the rules for reversing the burden of proof of medical institutions，and set up special accounts or insurance for intelligent diagnosis and treatment robots to deal with the risks of independent subject qualification of intelligent diagnosis and treatment robots and infringement of intelligent diagnosis and treatment.

Key words：intelligent diagnosis and treatment robot;medical tort;product liability;liability for medical damage