医疗人工智能科技异化及其伦理风险探析*

刘 琪 谷笑颖

随着人们对精准医疗及个性化医疗的追求，加之人口红利消失以及老龄化情况加剧等因素的影响，医疗人工智能在医学中的应用不断增加。但同时在医疗人工智能与人类交互的过程中存在的技术异化的现象变得愈来愈突出，医疗人工智能是否会取代医生的角色？如何消解人性技术化现象？如何实现技术向善？本文将对医疗机器人的科技异化现象进行探讨，并对医疗人工智能科技异化中的伦理风险问题进行分析，并以此为基础采取适当的应对态度及预防策略。

1 医疗人工智能发展现状概述

医疗人工智能是一种新型的交叉研究领域，它集成了许多学科，如医学、生物力学、力学、材料科学、计算机图形学、计算机视觉、数学分析、机器人学和其他学科[1]。医疗人工智能有助于提高医学治疗的精确度，减轻医生体力劳动，提高患者的生活质量，以及他们参与社会活动的能力。根据用途，医疗人工智能大致可以分为手术人工智能、康复人工智能、医疗服务人工智能。

1.1 手术人工智能

1985年，美国加州放射医学中心的研究人员用PUMA 560工业机器人完成了机器人辅助神经外科活检，这是人工智能技术首次应用于医疗手术，标志着医疗人工智能发展的开始。此后，随着人工智能技术在医疗领域的不断发展，医疗人工智能已在神经外科、腹腔外科、胸外科、骨外科、血管介入、颅面外科等手术中得到了广泛的应用。目前，由美国直观医疗研发的达芬奇手术人工智能是国际上技术最为成熟和完备的外科机器人系统，受到了许多国家和地区的青睐。大量患者受益于达芬奇手术这一先进的微创技术。我国在手术人工智能领域的发展也十分迅速。北京天智航医疗科技股份有限公司是全球第五家取得医疗器械产品注册许可证的公司，其推出的天玑骨科手术人工智能是国际上唯一能够开展创伤骨科、脊柱外科手术的骨科机器人，现已投入市场销售。

1.2 康复人工智能

辅助性康复人工智能主要应用于康复护理、康复器具(假肢)和康复治疗等方面，可以有效地帮助老年人群、残疾人群、慢性病患者、亚健康人群。最早出现的康复机器人是由英国Mike Topping公司1987年研制的Handy1，成功地帮助一名患有脑瘫的11岁男孩独立地用餐[2]。目前，最先进的康复机器人是可穿戴外骨骼机器人，它穿戴于患者的肢体，患者佩戴后可以确保机器人的运动模式和人体自由度同轴，实现更有效的康复训练。我国许多企业和大学也一直在对康复人工智能进行研究，并取得了一定成效。钱璟康复联合多所国内院校，历时多年开发出的Flexbot多体位智能康复训练机器人，打破了国外企业对该产品的市场垄断。

1.3 医疗服务人工智能

医疗服务人工智能主要包括护理机器人、救援机器人和转运机器人。护理机器人主要用来协助护士完成餐食、更换床单、药品和医疗器械的传送等日常工作。救援机器人用于配合医疗人员在发生道路交通事故、矿难、火灾、地震等情况时将伤员安全救出。转运机器人主要用于危重病患者的特殊检查和运送。目前，欧美和日本在医疗服务机器人市场中处于主导地位。日本机械工程研究所开发的MELKONG护理机器人可平稳地将病人从床上运送到卫生间、浴室等。美国 Vecna 公司研发的救援机器人“Vecna's Bear”可以抱起受伤士兵行走长达50分钟。燕山大学王洪波教授和日本Fumio Kasagami教授共同研制的“C-Pam”转运机器人不需患者移动身体，就可以将患者移动到床板上[3]。我国在医疗服务类型机器人方面发展仍处在初期，创立时间普遍在近两年，产业尚处于培育前期。

2 医疗人工智能发展中的科技异化表现

马克思将“异化”厘定为：在一定历史条件下，现实的人作为活动主体通过对象化活动创造出的客体逐渐和主体疏远，变成独立于客体的东西，反过来反对主体，并成为支配和控制主体的异己力量[4]。科技异化是指科技在产生、发展和应用过程中，违背人类研究初衷，成为支配人、控制人的异己力量，从而出现了人原有的正常的性质和本质被压抑、扭曲，甚至被否定的情况。随着医疗人工智能的广泛应用，科技异化现象也逐渐显现出来。医疗主体变更、医患关系变异、医学宗旨背离、人的道德责任弱化等都是医疗人工智能异化的表现。

2.1 医疗人工智能社会角色的转变

如今，医疗人工智能走向了越来越多的医疗岗位，医疗人工智能代替医生完成了许多重复单调和难度极高的工作,医疗技术在医学中地位的不断提升使得医生获得了更高的地位和权力，导致医生对高科技的依赖感也逐渐增加，即使有些凭主观思维就能够把握的疾病，医生也要利用技术手段对患者进行检查和诊断，医生的技能逐渐转变成了对仪器设备的操作水平。医疗机器人技术的成功应用也使得很多患者和家属陷入了盲目的技术崇拜，认为只要使用高新医疗技术就能达到好的治疗效果，所以将治愈疾病的希望寄托于高科技医疗设备，忽视甚至怀疑医生的专业水平，迷失在医疗高新技术里。

医生、患者和家属对医疗人工智能不同程度地膜拜和依赖致使医疗人工智能的角色在无形中发生了变化，医疗人工智能的角色由原来的工具、手段转变为了医院的核心竞争力。一方面，医疗人工智能角色的转变使得医生过分依赖医疗智能仪器对疾病的判断和诊断，人们对高新医疗技术的推崇远远超过了对医生的重视，医生将变得无足轻重，医生的主体地位也因此出现弱化。另一方面，医疗人工智能的高应用成本转嫁给患者和家属，高新技术的过度使用增加了家庭的经济负担，当高昂的医疗价格未能满足其治疗期待时，势必会激发家属的不满情绪，医患矛盾加深，最终导致医患双方信任关系的崩塌。因此，医疗人工智能社会角色的转变不仅致使其自身的角色发生了异化，也使得医生、患者及其家属、医患关系发生了异化。

2.2 医疗科技异化引发的人性异化

弗洛姆认为人性亦即人之本性、人之本质，是人通过人所处的情境表现出来的人的生存欲望和需求[5]。可见，人性异化是人们在欲望中迷失了自我，丧失了本性。科技的突飞猛进给人类带来了前所未有的巨大财富，但人类在依附于科技的同时也丧失了人类的主体性、主动性和目的性。在医疗领域，医疗人工智能的推广和应用使现代医学逐渐失去了传统医学中的艺术与温情，人性异化现象越来越明显，通过对人性异化问题的成因进行分析，大致上可以把其原因分为以下几种。

2.2.1 现代医学的过度技术化

目前，人工智能对包括医学在内的所有人类活动都产生了重大影响，因为在医学领域，对数据分析和解释的需求很高，而科技为人类打开了新的视角。随着自动化时代的到来，重复性的工作将会消失，人工智能的作用将继续增长，使得医生在医学活动中过度依赖并夸大医学技术的作用。

在技术伦理学中，当人类完全被看作实现某种目的的手段时，这在伦理上是不可接受的。如果对医学技术的使用不加以管控，那么人与机器、技术的主客体关系就会完全发生颠倒。一方面，患者变成了客体，作为机器、技术、工具的支配对象被迫地受到机器的控制。例如，医疗机器人对每个年满五十岁的患者进行结肠镜检查时，就像装配流水线上的产品一样，被动地适应机器运转，根本不会顾及患者的情绪。又如，医疗机器人以同样的方式治疗所有膝关节骨性关节炎患者，而不考虑特定患者之间的差异。另一方面，机器变成了主体，机器成为医生的主宰，医生则变为机器的奴隶。随着医疗人工智能覆盖的领域越来越广，医生的作用越来越单一化，少数医生被固定在一个位置上重复着单调、乏味的同一个操作程序，被动地适应机器运转。医生没有了思想、乐趣，他们的时间和工作性质完全根据技术和机器的指令来安排和决定。这种患者商品化和医生机械化现象大大消解了人性。

面对复杂多样的医疗需求，需要医生不断创新，努力学习新的医学知识。医院自动化增强，更多的机器人取代了医生，就会限制医生专业特长的发挥，削弱工作的激情，从而限制了医生潜能的发展。此外，如果机器决策出现偏差，那意味着即使错误，医生也倾向于接受机器的决策，而医疗决策的错误可能会危及患者的生命，引起医疗冲突和纠纷。

2.2.2 人工智能责任的缺失

人工智能给人类带来的潜在危机和发展隐患，涉及到社会的多重因素，因其应用带来的数据泄露问题、隐私问题、算法黑箱问题、失业问题等，这一系列问题其实都是因为人工智能责任的缺失导致，给人类带来了诸多的伦理困境。在医疗领域，医疗人工智能的广泛应用使得医生的工作只是按一下按键，对诊断流程和最终结果一无所知，也不需要对患者的问题是否解决负责。一旦患者提及机器是如何以及为什么做出重要决策的时候，如果医生告诉我们：“我不知道你为什么生病，但是我的机器说‘吃这些药’”，或者“我不知道你为什么生病，但是我的机器建议你做手术”。我们当中会有多少人对这个结果感到满意呢？但机器决策是由算法决定的，临床医生能够解释的内容可能会受到限制，那么责任归属的转移就会影响患者对临床医生和医疗机构的信任。

为了应对人工智能这一创新技术带来的潜在风险，欧美国家兴起的“负责任创新”理念旨在解决科技发展中的责任伦理问题[6]。该理念强调对研究与创新的未知影响和结果进行预测与反馈，以对科技的社会角色“负责”[7]，实现“技以致善”[8]。尤其在医疗领域，医疗人工智能的应用引发的伦理问题更是凸显了对人工智能负责任创新的必要性。鉴于此，应该意识到，科技的应用不仅仅是技术挑战，更是一项道德、法律和社会的挑战，人工智能责任的治理不仅仅是科学家和工程师的事情，人工智能学术界、产业界，以及伦理、哲学、法律等社会学科各界都应紧密合作，积极应对人工智能发展过程中的伦理道德风险。

2.2.3 名利与技术的“合谋”

医疗人工智能给患者带来的高治愈率导致医疗机构认为谁有先进的医疗设备，谁就在同行中占据领先地位，医疗的原始宗旨逐渐被异化为对利润的追逐，在利润的驱动下，医疗机构对人工智能的过度投入使得人们在一定程度上被技术所掌控，医疗人工智能产品的研发、销售及使用甚至演变为一些人致富的工具，医疗领域人工智能的不断应用也为科技公司未来的发展提供了方向，医疗合作与商业利益捆绑在一起，从而大肆宣扬人工智能，吸引更多热情的投资者和拥护者，但这种过度资本化的行为并不总会对患者有利，所以在开发和应用医疗人工智能的同时也要谨防资本逐利的本性。机器对人的异化越来越凸显。

对于医务人员来说，从一名医学生成长到医生花费了大量的时间和精力，而由于大规模医疗人工智能的使用，医疗劳动的价值就完全被忽视了，医生的个人价值和社会价值得不到体现，医生的积极性下降，医疗环境日趋恶化。此外，过度医疗检查行为所带来的利益诱惑也使医务工作者出现道德偏离甚至缺失。对于患者来说，高昂的治疗费用会使得数以万计的家庭因病致贫、因病返贫，进而增加了看病难、看病贵等社会问题。

2.3 技术人性化和人性技术化

人性技术化是指人们迷失在技术及其产品的价值中，逐渐丧失了自己的创造性和主体性，最终导致人性发生异化。技术人性化是指将人性赋予技术,在技术中融入人性，是与人的本性相和谐的技术，技术人性化其实是技术积极的“异化”。所以人们在享受医疗人工智能带来优质快捷服务的同时，也必须认识和警惕人性技术化的严重后果，必须思考如何使医疗人工智能的应用更加人性化，实现技术和人之本性的和谐。

2.3.1 人性技术化的表现

在医疗领域，医疗人工智能导致的人性技术化现象表现在两个方面：一方面，对自然人性的影响。医生过度依赖医疗人工智能会导致医生智力的相对弱化和退化。传统医疗模式中，医生往往通过阅读医学文献和实践来锻炼思维，最终做出理性的判断及相应的治疗分析，如今，医生在临床诊断及后续治疗中往往把这些工作都交给高度精密和极高速度的机器，这就在一定程度上使医生人工工作相对懈怠，甚至导致医生对其过分依赖从而造成医生智力的退化和理性判断力的弱化。在此趋势下，人在科技面前愈来愈缺乏人性，人性逐渐被技术所吞噬。那么，不得不思考人类究竟是技术的主人还是奴隶？另一方面，对社会人性的影响。医疗人工智能给人们带来了许多伦理困境。如何面对医疗人工智能泄露患者隐私的风险？如何处理人工智能引发的医疗事故？未来是否会赋予人工智能人权？等等。这些问题都给传统的医患关系带来了巨大的挑战。

其实，无论是医生还是患者在医疗人工智能技术面前都渐渐失去了对生命的尊重。在医生的思维中，技术理性占据了主导地位。医生忠诚于机械设备的每一个步骤，甚至把患者也当成了机械，忽视患者的感受，医生对生命失去了可贵的悲悯和敬畏。而患者怀着迷茫和希望将自己的身体交给机械设备，忠诚地配合着医生的每一个指令，轻视了自己生命的尊严。在理性、冰冷的医疗机械面前，医学的目的变成了治病不治人，医学中的人文关怀也逐渐丧失。

2.3.2 从人性技术化走向技术人性化

爱因斯坦[9]曾指出“科学最突出的实际效果在于它使那些丰富生活的东西的发明成为可能”，“所有这些发明给予人类的最大实际利益，我们就应当把它归功于科学的实际效果”。所以要从医疗机器人的设计、发明、创新开始就要坚持“以人为本”的原则。研发方面，科学家和工程师要对潜在风险和安全隐患进行评估，提升技术水平控制各种风险。在此基础上，设计要合乎伦理，体现出多样性与包容性，尽可能地惠及更多人。在使用方面，提倡善用和慎用，避免误用和滥用，应确保患者对其权益所受影响有充分的知情与同意。因此，要从医疗人工智能的研发和使用上规避伦理道德风险，才能使医疗人工智能更好地为患者服务。

3 医疗人工智能科技异化中的伦理风险问题分析

医疗人工智能科技异化现象使得传统医学伦理价值和生命伦理观念受到了冲击，不断地消蚀着传统道德。如果漠视这一切，现代医学的发展就会陷入困境。所以，深入剖析医疗医疗人工智能异化的表现，反思医疗人工智能的伦理风险并最大限度地降低和规避其风险，对于构建和谐的医患关系具有重大意义。

3.1 人的主体性和“人-机”统一性之间的矛盾

目前，对道德主体的研究已经从人类拓展到动物甚至是技术人工物，但以人是唯一道德主体的思路考虑，只有具有理性思维决策能力、能够独立地承担责任的理性主体才具有道德主体地位[10]，显然，机器是不具有道德主体地位的。医学侧重于对以人为主体的情感关怀，所以，即使医生在知识储备和对信息的掌控方面与医疗人工智能技术相比具有自己的局限性，但机器是不可能取代医务人员的。

医疗诊断和治疗的过程并不是单纯地将患者视为一架需要修理的精密“机器”，只从生物学的角度对患者进行治疗，医护人员对患者的关爱和尊重对患者来说也十分重要。医疗咨询是患者就医的第一步，而良好的沟通是医疗咨询的核心。患者不仅想要医生了解他们的症状，也希望医生能够理解他们的感受。例如，医生只有经历过头痛才能真正理解头痛患者的抱怨，或者利用其他经历来想象这样的疼痛可能是什么样的。当医生响应时，患者可以感知到医生诊断和治疗的努力。由于机器人不可能患病，所以就无法体会到患者的痛苦，难以实现医患共情。另外，非语言交流在医疗咨询中也十分重要。例如，身体姿势、眼睛注视、语音语调、面部表情、手上的安慰触觉、医生与患者之间的距离。这些表达虽然微小，但会增强医生和患者之间的情感，包括同理心、关注和安慰。这样，患者在医生面前可以充分表达他们的症状、担忧、想法、感受和期望。即使医疗机器人可以执行这些操作，也难以知道如何以及何时适当地使用这样的手势，患者会对医疗机器人的触摸有所响应吗？虽然在某些情况下，有效的诊断和治疗就足够了，但是对于慢性病和绝症患者来说，他们希望医生提供的不仅是更多的技术手段，而且提供人类的智慧和同情心，毕竟人类在疾病和死亡面前是脆弱的。因此，同情心对于医患关系至关重要，而这是医疗人工智能所不具备的。

人工智能归根结底还是人类创造的产物，其职责是更好地为人类服务。医疗行业是一个特殊的服务类行业，必须坚持医务人员为主导，医疗机器人为辅助这一原则，构建以医生为主体的“人-机”共同体。

3.2 医生、机器、患者的权益公平性的矛盾

医疗人工智能技术的应用和发展解决了医学难题，延长了人类寿命，对人类健康事业作出了巨大贡献，当我们过度使用医疗技术时，我们不得不面对医生和患者的相关权益受到威胁的伦理困境，主要表现在以下两个方面。

3.2.1 隐私侵犯风险

在电子医疗记录时代，人工智能使已经复杂的网络安全环境变得更加复杂。在剑桥分析公司窃取Facebook用户隐私数据事件之后，关于如何平衡隐私与更好的用户体验的辩论正在持续发展，特别是在涉及诸如医疗信息的敏感数据时。数据是技术开发的一个组成部分，特别是对于人工智能来说[11]。医疗人工智能需要访问医疗大数据才能向人工智能设备提供资料，以便它们可以进行更精准的治疗。但问题是，患者的敏感数据可能被非法获取，患者的隐私易受到侵犯。每个人就医时的信息都在虚拟的网络系统中留下了痕迹，即便删除也可以找回，任何人都有可能从中获取信息，即使有加密措施也不能完全阻止信息被不法分子窃取。而且随着智能移动终端和可穿戴设备的广泛使用，也给不法分子提供了获取患者信息的途径。公民健康信息和患者隐私保护是医疗人工智能面临的重大挑战，应对该挑战需从技术、法律制度等多方面着手，需要患者、医疗机构、人工智能公司、政府和社会各界的共同努力。

3.2.2 责任风险

尽管现在医疗人工智能技术较为成熟，故障率很低，但由于人工智能技术的复杂性，除了极少数人能够理解它们是如何工作的，几乎对所有人来说都是一个“黑匣子”[12]。医疗人工智能行为异常将由一个或多个边界条件的失败引起。例如，一个编程错误可以导致系统重启；障碍物会使机械臂的运动发生偏离；连接控制台和机器人的导线损坏会使机器人无法响应外科医生的指令，等等。那么由于机器人异常行为对患者造成的严重伤害，谁会对这种伤害负责？如何厘清医生、算法设计者、制造者等各方的责任？人工智能一旦脱离人类的束缚，机器人可能会做出超出设计者设计意图的行为，其责任如何认定？由于现阶段缺乏明确的伦理规范和法律法规的要求，因此，有必要针对智能机器人建立健全相关的规范要求，使得相关责任方承担起自己应尽的责任。

3.2.3 技术价值中立和道德向善的矛盾

对价值中立进行系统论述的德国社会学家马克思·韦伯认为价值中立就是在进行社会学研究的时候只是力求反映事物的真实情况，而避免政治的、伦理的影响，不对它进行价值判断[13]。技术本身是中立的，但人类进行科技活动难道仅仅是为了追求真理，完全撇开主体的目的、利益、情感、欲望等主观偏好吗？2018年贺建奎“基因编辑婴儿”事件在社会上引起了轩然大波。如果试验脱靶，不仅对婴儿的发育和成长留下难以预料的隐患，也将会改变整个人类的基因池。贺建奎为了达成他的科学目的冒着危及整个人类社会的风险，这其中难道没有追逐个人名利的目的吗？可见，虽然高技术在食品、医疗、交通和信息获取等各个方面都给人类带来了福祉，但也让我们置于复杂的困境之中。人始终是技术的主人，科技给人类带来的是善还是恶完全取决于人，人类决定着科技的发展方向。四川警方利用人工智能跨年龄人脸识别技术，成功地找到了4名走失约10年的孩子。这告诉人们将科技与善意结合，技术才能变得更有温度。

在医疗人工智能这种有争议的技术进展面前，如果国家通过法律对技术发展进行回应和保护会加大医疗人工智能带给人类的福祉。例如，根据新闻文章中的调查和采访，新罕布什尔州多佛市的Wentworth-Douglass医院发生的医疗机器人行为异常引发的医疗事故是由于机器人系统训练不足而导致的：外科医生没有足够的时间和资源来学习如何正确使用机器人。Wentworth-Douglass医务人员的一些成员宣称他们只在猪和人类尸体上练习2天，而拥有丰富机器人经验的外科医生至少需要200次手术才能熟练掌握医疗机器人[14]。虽然这一观点需要进一步证明和完善，但加强对医生的培训和监管是十分必要的。又如，如果在算法设计中暗藏某种歧视，一旦被机器人学习并继承，很难通过技术手段消除，这种医疗人工智能应用于实践中是不利于社会公正的。所以应对算法输入进行严格监管，当出现算法歧视之后，要求事后公开审查，使得编程人员的行为受到约束，这样才能削弱或避免人工智能出现算法歧视。因此，有必要加快我国相关立法，增强医学行业自律等措施，让法律成为保护和实现善的最有效机制，实现人与科技的友好相处。

4 结语

虽然医疗人工智能的发展和应用给人们带来了许多伦理难题，但医疗智能化将是医疗领域的必然趋势，人们对待医疗人工智能的态度将决定人工智能的发展方向。要认识到：医疗人工智能并不是要取代医生，而是将医生所获得的时间和精神上的余地留给患者。如果医生能够有效地利用人工智能，人工智能可能会比以往任何时候都更加成为人们的盟友，医疗人工智能的发展也将会造福于人类。