刑法视野下的医疗人工智能问题研究

顾晓涛 高志昊 聂新越

摘要：当前现代人工智能发展的重点方向之一便是医疗人工智能，其功能对于现代医疗领域中对诊断、医疗的精细程度的提高、医疗风险的降低大有裨益，但同时它也具有一定弊端，它无法彻底替代传统医学中医生的角色，在刑法视野下它也无法作为医疗行为和医疗犯罪的主体。医疗人工智能应用使医生在承担充分告知义务时遇到了相应的困境，因此需要合理规范人工智能辅助医疗活动与中医生告知义务的边界，完善患者获得医疗资讯的渠道，全面保护病人的知情同意权，同时需要形成有益的医疗人工智能发展机制，以处理医疗人工智能应用环境中医师的注意力问题。

关键词：医疗人工智能;刑法视野;人工智能刑法地位

新一代人工智能已具备了自主学习适应的能力，并应用于中国经济社会各方面，而医疗行业也是人工智能发展的重心，目前中国医疗人工智能企业占比达到了百分之二十二[1]。医疗人工智能技术可以减少资源的紧张、提升诊治精确度与效果，国家《新一代人工智能发展规划》中提出"推广应用人工智能治疗新模式新手段，建立快速精准的智能医疗体系"。刑法在保护合法权益的同时，又要保证医疗人工智能迅速应用、安全且健康地发展，所以，很有必要探究在刑法视野下医疗人工智能带来的新挑战。

一、医疗人工智能给刑法带来的新问题

医疗人工智能即为智能医疗，主要内容包括智能诊所信息管理、人工智能诊疗、人工智能慢性病信息管理、人工智能药品研发生产和医疗智能监护，以及流行病智能检测与防控等。医疗人工智能引发的刑法问题范畴相当广泛，部分问题与刑法无关如人工智能慢病管理等相关的法律问题，但部分问题是中国传统刑法问题在人工智能应用环境下的新发展，可以在现有刑法范畴内妥善处理，如泄漏或者非法使用病人的诊断信息或者隐私等。在笔者看来，医疗人工智能向有关医学方面的刑法提出了这样的一个问题：医疗人工智能的刑法地位问题。就目前而言，医疗人工智能在医疗方面的实际运用方向主要为医疗影像辅助诊断、临床应用辅助决策以及机器人手术，这些应用在实际操作方面展现出了惊人的精确、快捷，但是医疗人工智能也会出现失误，甚至导致重大损失。假如把医疗人工智能系统作为普通医疗器械对医师追责，不能满足医生行为实际作用的事实，会引发社会对医疗人工智能使用的强烈抵触，那么，医疗人工智能系统可不可以成为单独的医事犯罪主体？假如不可以，医疗人工智能的刑法地位又如何？

二、医疗人工智能在刑法上的地位

人工智能是否应该被赋予为刑事责任主体或犯罪主体地位，在刑法学界中产生了截然不同的看法。其中一部分研究者指出，"超出设计和编制的程序范围，在自主意识和意志的支配之下实施严重危害社会行为的智能机器人可以成为刑事责任主体"。[2]相反的研究者指出，"人工智能不管怎么发展，都无法获得人类的自由意志""刑事责任能力除了需要具备表面的‘认识能力’和‘控制能力’之外，还需要实质判断要素，即社会中具备责任能力的主体的认同"。[3]争论的焦点是，人工智能是否拥有"自主意识和意志"以及人们社会能不能承认其具有主体性。"自主意识和意志"的根本意思就是自我判断、决定，对别人的要求能够选择接受或者不接受。无论是自然人或人工智能的"自主意识和意志"，都不能被直观认知，需要根据其外在表现来判断。一旦人工智能具备"自主意识和意志"，就会在人们想要操控人工智能系统或是拒绝接受其提议之际，显示出超乎人们预先设想的对抗反应。其次，"自主意识和意志"不等于"智能"，高度智能的机器可能没有"自主意识和意志"，只能根据预设程序对外界输入的信号做出反应，因此当前的人工智能是在历史数据的学习中发展出来的、以大概率为判断逻辑的发现并作出最优解决对策的能力，并没有“进化”出反抗人类控制的能力。未来一旦存在被称为强人工智能的"奇点"，这种"强人工智能"已经具备了自主意识和意志并能够抵抗人类的操控，其法律上主体地位的决定权仍在人类，并不可能自然具备。一旦人们赋予了其不受人类控制的权力，就必将使得人们丢失了命运决定权，这就与开发人工智能的基本原则和方针相互背离;而这些拥有自主意识和意志的人工智能的危害活动也当然不被人们所容许，其存在本身同时也不被人类所容许，因此不能够先赋予其主体地位，且等待其发生了危害活动之后，人们才以讨论其刑事责任问题的处理方法。[4]医疗人工智能具有人工智能的共性，但不能够取得医疗主体地位，也无法作为医事犯罪的主体。除了上述理由外，还可在医疗人工智能发展现状和发展趋势研究中得到上述结果。尽管目前的《人工智能辅助诊断技术管理规范》将医疗人工智能体系界定为"计算机辅助诊断软件及临床决策支持系统"，但考虑到治疗人工智能技术一直都在研发与使用过程中进行，因此以下论述范围也仅限于疾病诊疗领域的医疗人工智能。

（一）疾病诊断和临床决策领域

医疗影像诊断人工智能并不具备产生自主意识和意志的事实基础。目前的医学影像诊断人工智主要进行单小细胞肺癌检查、糖网眼底检测、食管癌检测及其部分病变的核医学检查和病理检查，其过程中只有最后一步匹配和类聚是通过人工智能算法，把特征向量映射为诊断结果。该算法并非事先人为设计，而只是通过计算程序对以往的大量医疗影像及其结果加以学习、并自动适应而形成的分析与评估准则，该标准是动态的，随后人工智能的学习会导致其改变。前述人工智能算法和传统医生的认知训练遵循着不同的逻辑路线，后者以传统医疗知识为基础，其推导过程严格地按照传统医学的科学知识和规律，而前者则以影像特征和预设算法标准为基础，对收集到的转变成数据后的影像特征都计算了其概率，它的运行方式并不直接依靠传统的医学经验和知识，只是对数据信息单纯地进行处理。通过大量数据的影像信息处理、全面的特征量获取与匹配训练得出的人工智能算法可能具备比医生更强大的规律发掘能力，甚至能找到一些尚未被传统医学所注意的特征量和结论间的相互联系，加之当前计算机信息体系已具备了强大的计算能力、高精度和不知疲倦的运算能力，就可以更加客观、准确和有效地实现疾病诊断任务。这类人工智能并没有进一步发展出"自主意识和意志"。人工智能系统的功能完全由计算机硬件、算法以及已学习的数据决定，其核心内容就是计算;而其计算的算法则由一开始被设计的程序、所接收到的相关影像数据以及所产生的判断结果来决定，无论最后产生的是什么样的算法，都只是对前述内容的映射。就算我们将医疗人工智能系统获取的影像数据还有所统计的结论规模扩大成千上万倍，也没有办法解决上述限制带来的问题。如果选择忽视人工智能最根本的数据内涵是其"不自由性"，从而觉得其未来会产生"自由意识和意志”，甚至到一定程度后不需要医生的主观能动也能够发展出更高水平的医疗技术，这是违反科学性的不切实际的幻想，更不用说赋予医疗人工智能医疗行为主体与医事犯罪的主体地位。临床诊断方案方面辅助决策的相关医疗人工智能，同样不可能存在所谓的“自主意识和意志”事实。和前述的医疗影像与人工智能计算管理系统类似，其智慧主要源自于对病历、疾病文献和临床诊断个案数的掌握，医生对特定病症的了解越深入，治疗效果就越好、愈稳定，向信息系统提交的有效治疗个案数愈多，该信息系统所给出的方案设计品质也愈高，即受限于信息系统初始算法、已有的医学知识文献和训练的有效治疗临床病例的个案数据。通过采用更多的特征量，分析更多的醫学文献和临床案例数据，可以训练出更强算法，甚至还可以发现当前医学所没有发现的新医学知识和诊疗方案，但它仍只是通过分析过去医疗实践的知识发现，还不能跳出目前所掌握数据的局限，无法实现医学方面的创新，更不能够形成"自由意识和意志"，当医生不采用其最佳的治疗方法或者采用不推荐方法时，也不能够避绕或者对抗医生的反应，没有一个医学文献认为医疗人工智能可以成为医疗行为主体。

《人工智能辅助诊断技术管理规范》中明确将前述医疗人工智能界定为辅助工具。该标准第三款规定："应当由二名以上具备五年之上与从事人工智能辅助和诊断治疗技能有关专业知识临床诊治管理工作经历的医生作出决策并提出治疗建议。由具备五年之上与从事人工智能辅助和诊断治疗技能有关专业知识临床诊治管理工作经历的医疗人员负责使用。"在未来辅助治疗中人工智能技术可以会在更多的疾病诊断上，给出更智能、更高效的治疗建议以及推荐方法，甚至可以直接面向病人应用，但并不能使得其完全摆脱医生的管理，因为治疗活动的主导依然是医生而不是医疗人工智能。臆想的未来医疗人工智能将成为医疗行为主体，不但缺乏事实依据和法律基础，而且还会否定病人、医生和医疗机构三者间的法律关系，让医疗人工智能应用离开医疗的领域，变成病人通过医疗人工智能产品实现自诊，而不存在医疗主体和医事犯罪主体。而这些变化都有违医学理论和医疗实践发展准则，对社会、医疗产业和病人都无益，也不符合对国家有益的新一代人工智能科技的发展目标。

三、结语

可以预见的是发展医疗人工智能未来的主要方向是更专业、更智能，但其还是不可能形成前文所说的"自主意识和意志"，从而成为医疗行为主体和医学刑法中犯罪主体和责任主体，笔者认为其在刑法中的地位应该是客体。不难预测，未来医疗人工智能必将完全地改变传统的医疗活动方式，对医学犯罪能不能成立有实际的影响，同时医师的说明告知义务、医疗事故罪中医生的负有的注意义务与注意能力的判断准则也应该要随之应变，笔者认为在这方面应该坚持以病人为中心，建立积极正面的人工智能发展制度，在监管部门、医师和患者之间合理分配医疗人工智能安全风险防范责任;同时，推动医事刑法及相关理论的发展创新。医学的最重要内核是人道主义，每位患者都是独立的个体、无法重来的生命，对患者的人文关怀应该是医疗活动的重要组成部分。数理以及算法逻辑是医疗人工智能发展的科学基础，但是其只能在逻辑算法的基础上进行相关的信息处理，没有办法完成需要人类独特思维的工作，在客觀上医疗人工智能也不存在类似AlphaGo那样棋类人工智能可以有无数次试错的训练条件，医疗人工智能未来不可能完全替代医师的工作，其发展方向只能是医师监控下的人机协同。法律制度应保障人机协同医疗的发展，客观回应医疗活动变革的事实，及时完善医疗人工智能相关法律法规，这也是医疗人工智能相关刑法问题研究的起点和重点。

参考文献：

[1]刘宪权.《涉人工智能犯罪刑法规制的路径》[J].《现代法学》，2019，（1）：78-82.

[2]储陈城.《人工智能时代刑法的立场和功能》[J].《中国刑法法杂志》，2018，（6）：88-91.

[3]皮勇.《人工智能刑法法治的基本问题》[J].《比较法研究》，2018，（5）：156-157.

[4]中国信息通信研究院.《2018年世界人工智能产业发展蓝皮书》[EB/OL].http：//www.caict.ac.cn/kxyj/qwfb/bps/201809/P020180918696199759141.pd，2018-09-18/2022- 2- 16.

作者简介：

顾晓涛（2000-），男，汉族，江苏无锡宜兴人，江苏大学本科在读，法学方向。

基金项目：

江苏大学2021年大学生实践创新训练计划项目 项目编号：2021102991004X。