医疗人工智能致人损害时的责任探析和法律规制

王超

关键字：医疗人工智能；医疗损害赔偿；注意义务；法律挑战

  一、医疗人工智能的特征及其挑战

人工智能是目前计算机学科领域的前沿部分，它是指通过改造机器，赋予机器和人类相同或者相似的行为模式和思考逻辑。通用人工智能（General Artificial Intelligence）“ChatGPT”在2023年出现后，迅速在网络上走红并为大众所熟知。在其影响下，其他行业的专业人工智能得到迅猛发展，其中就包括医疗人工智能。医疗人工智能本身兼具人工智能和医疗双重属性，故在剖析我国面临困境前需要分析其所具有的独特属性，目前来看，至少具有以下三方面特征：

第一，黑箱性。医疗人工智能利用机器的深度学习原理，可以快速自主学习、积累相关医学知识，显著提高准确度、可靠性。但由于深度学习的神经网络模型是大量的隐藏层所形成的计算模型，即使是开发者也很难掌握其演算过程。故人工智能具有黑箱（balck box）性。

第二，动态性。人工智能的应用不能是静态的，必须通过不断地在输入端更新大量资料，重复校验经隐藏层分析后经输出端产出的结果，这个过程必须是持续的。例如：医疗人工智能影像诊断，需要在输入端辅以大量的数据资料，如根据阴影密度判断疾病的种类病变位置等，之后在输出端便产出结果，医务工作人员根据结果判断之前的验证。

第三，情景偏差性。由于人工智慧医疗需要大量数据资料进行维持，其做出结果的准确程度是与数据资料的完善性成正比的，即数据库越完善，该结果的准确性就越高，由于经济水平差异，科技发展状况不一，故医疗人工智能的效能会有情景上的偏差。在美国医疗人工智能软件开发多由医疗资源丰富的研究中心与人才济济大学或者医院进行合作，如IBM沃森肿瘤学系统的运行是IBM公司与 Sloan Kettering癌症医院合作开发。出于技术、法规以及商业等方面的考虑，投资者会和大学医院等合作。医疗人工智能的开发和使用是为了更好地节约医疗资源，促进医疗专业知识的普及化，减少医疗资源差异。情景差异性使医疗人工智能是否具有这项功能面临着挑战。

由于医疗人工智能涉及普通群众且具有高度专业性，所以说医疗人工智能更应得到法律上的关注。欧盟2017年便出现了《机器人民法规范的建议》。美国自2016年实行21世纪健康法案（The 21st Century Cures Act）以后，美国药品监督管理局（FDA）对医疗人工智能的管制便逐渐明确。而我国法律目前基本仍处于空白状态，急需对于医疗人工智能的实际应用和致人损害责任划分等问题予以回应。

  二、医疗人工智能致人损害责任探析

传统医疗纠纷案件完全可以直接依据《民法典》侵权责任编、合同编有关规定或者双方约定进行处理。但随着医疗人工智能的出现，法律关系日渐复杂，如何清晰划分医师在医疗人工智能参与过程中的损害责任便是我们要解决的首要任务。目前来看，医疗人工智能在临床上的应用是渐进发展式的，目前仍主要是辅助医师；之后可能会起到一定的实质性作用；甚至发展到特定情形下完全取代医师。目前我国主要是需要针对初级阶段各方主体责任做出及时回应，当然也应关注医疗人工智能的生命周期。

  1.醫师责任

医师责任是一个相对动态发展的过程，会随着医疗人工智能发展而呈现不同形态。我国医疗人工智能仍处于初级阶段，目前其仅能辅助医师，这种情况下的医疗人工智能一般用于处理比较简单且单调的任务，例如医学影像筛查或者复核。此阶段的医疗人工智能致人损害可能原因，通常包括医疗人工智能的选用不当、操作人员失误、医疗人工智能软件本身存在缺陷三种。若因医务人员事前过失选用人工智能不当或医生事后忽略人工智能报告致使患者出现损害，此时应根据一般医疗纠纷案件处理。若医师无任何过失，单纯因医疗人工智能软件自身错误出现研判错误，直接导致医疗纠纷，则需检测医疗人工智能软件是否具备缺陷，看是否可以构成产品责任。

第二阶段时，医疗人工智能可以实质影响医师决策，其主要是指某些高精准度手术或者治疗。一般来说，医师只有在拒绝使用相符于常规标准的医疗人工智能建议治疗标准或者接受明显不符合常规标准的医疗人工智能建议治疗标准等存在明显过错时才承担责任。此时法院判定责任范围时需要根据医疗人工智能的影响程度、患者的病情、体质的特征、诊疗方式的特殊性等进行综合的个案判断。

第三种情况是医疗人工智能实质上取代医师进行医疗决策。这个过程是医疗人工智能达到一个相对高的发达程度，其专业水平和临床判断超过顶尖的专科医师，此时人工智能完全取代医师进行医疗决策，这是医学和科技进步的必然趋势。未来的医疗人工智能可能成为一般医师处理类似病例时都会采用的工具，且使用医疗人工智能达到最佳的诊疗效果，如果医师未采用此工具，很有可能会构成违反注意义务而构成过失。若未来人工智能具备专科医师的决策水平以及咨询功能，而一般医师使用医疗人工智能所做的决策虽有错误，但是要分析该医疗人工智能所做决策错误的原因，是否由其研发商的过错导致，医师或者医疗机构可以以此作为抗辩。虽然医疗人工智能所做的决策不正确，但是鉴于其做决策为新的医疗常规，客观上认为医师对该决策有信赖，因此要分析其最终原因。

  2.医疗机构责任

第一，医疗机构责任。根据《民法典》1218条规定，医疗机构可能存在不以医务人员过错为基础的“独立”过错。随着“刺破人工智能面纱”的学说被提出，该学说认为人工智能可以享有有限的法律人格并承担有限的法律责任，其造成的损害赔偿责任仍然由其研制者或者使用者承担。如果医疗机构参与医疗人工智能的设计研发制造等则与研制者地位相同，对于医疗人工智能软件本身出现的问题所造成的损害，所有侵权人共同承担连带责任。若因其使用者即医疗机构中的医务人员的原因致使患者遭受人身损害，故医疗机构属于组织使用的主体，故应承担损害赔偿责任。

  3.医疗人工智能研发者责任

若使用医疗人工智能在诊疗中造成患者损害，患者除可以向医疗机构主张请求损害赔偿之外，还可以向研制者主张医疗产品责任。主要原因在于：一般来说，人工智能软件存于芯片等载体中，或者与其他硬件结合成产品的一部分，该载体或者结合体为产品。但是单纯的软件算法是否可以成为产品，这个学界是存在争议的。欧盟明确将人工智能列入产品责任。我国《产品质量法》第2条同样将软件归于产品的范畴。在泉州中级人民法院（2020）民终1496号民事判决书中也将软件认定为产品。有学者产品责任设置的目的分析，认为软件的无形性不能阻碍其适用产品责任。另外《医疗器械监督管理条例》第130条规定也是将软件归于医疗器械中，由此可见将医疗人工智能软件认定为产品具有一定的根据。故若因其发生医疗纠纷，当然应该适用产品责任。

  三、结语

人工智能正在影响着时代的各行各业发展，因其导致的医疗损害责任正面临巨大挑战。若损害赔偿责任规范过度宽松，虽可促进医疗人工智能的发展，但会使其品质无法保证、导致病人权益难以保障；若损害赔偿责任规范过度严格，将导致医疗人工智能的使用更为谨慎，阻碍医疗科技的发展。为此，我们应保持医学理论、法体系对于医疗人工智能实践的关注，形成良性互动，建立对医疗人工智能严格的监督机制，努力寻找法律体系、医疗机构与科技发展之间的均衡点。

参考文献：

[1]张彩亮、林克亮等.人工智能在医疗的应用及未来展望[J].台湾医检杂志.2019（02）：3.

[2]Holzinger A，Biemann C，et al.What do we need to build explainable AI systems for the medical domain.arXiv preprint arXiv：1712.09923（2017）.

[3]何炼红，王志雄.医疗人工智能影像诊断侵权损害赔偿法律问题[J].政治与法律，2020（03）：27-37.

[4]W.Nicholson II Price，Regulating Black-Box Medicine，116 Mich.L.Rev.421（2017）.

[5]王旭玲，王旭霞.医疗损害责任的请求权基础分析[J].甘肃理论学刊.2019（6）：101-106.

[6]王旭玲.醫疗损害责任制度研究[M].北京，法律出版社，2022.

[7]A.Michael Froomkin， Ian Kerr & Joelle Pineau： When AIs Outperform Doctors： Confronting the Challenges of a Tort-Induced over-Reliance on Machine Learning， 61 Ariz.L.Rev. 33 （2019）.

[8]袁曾.人工智能有限法律人格审视[J].东方法学.2017（05）：55-57.

[9]丁利明.软件侵权的法律适用规则探究——以产品责任为视角的分析[J].大连理工大学学报（社会科学版），2010（02）：85.

[10]郑志峰.诊疗人工智能的医疗损害责任[J].中国法学.2023（01）：203-221.

[11]周学峰.生成式人工智能侵权责任探析[J].比较法研究.2023（04）：117-131.

[12]吴振吉.人工智慧医疗伤害之损害赔偿责任[J].台大法学论丛.2022（02）：513.

[13]朱姝尧，刘建利.论医疗人工智能诊疗中医师违反注意义务的损害责任[J].医学与社会.2023（10）：132-137.

[14]吴振吉.人工智慧医疗伤害之损害赔偿责任[J].台大法学论丛.2022（02）：521.

基金项目：1.山东大学法学院2021年度研究生科研创新硕士项目“数字经济下的企业数据法律保护模式研究”；2.山东大学2022年马克思主义人权理论与中国特色社会主义法治项目“中国特色社会主义法治体系下数字人权法律保障研究”阶段性成果（项目编号：61040062914001）。

（作者单位：山东大学）