人工智能对医疗健康行业的影响及应对

人工智能在医疗领域的应用正在不断变革现代医疗服务模式。人工智能辅助诊断、医疗机器人、医学影像等新技术极大促进医疗现代化进程，缓解医疗资源紧张的局面，提高医疗服务的质量。医疗人工智能在带来诸多益处的同时也伴随着一些无法避免的伦理风险，对现代医疗行业产生影响。技术安全性、医疗数据隐私和医患自主性不仅影响医疗人工智能技术在医疗行业的应用，而且对医生职业发展和医院制度产生影响。而在医疗技术落地之前，阐明上述伦理问题，有助于技术安全发展，并惠及医疗。

一、引言

人工智能技术自2012年开始迎来快速发展的繁荣景象，当前正处于行业广泛研发及快速落地商业化阶段。伴随人工智能的基础技术的研发和突破，人工智能广泛应用于各行各业，在计算机视觉、语音识别和自动驾驶等应用领域均获得不俗的成绩。而在医疗健康领域、安全隐私、城市治理等更多的技术领域中也正在发挥着重要作用。2015年，中国提出“互联网+”战略，鼓励“互联网+”各行各业创新创业，为实体经济赋能。2017年，国务院发布的《新一代人工智能发展规范》再次提出发展便捷高效的智能服务，围绕教育、医疗、养老等迫切民生需求，加快人工智能创新应用。

在此过程中，智能医疗在人工智能技术的支撑和相关政策制度的引导下蓬勃发展，不仅有助于带来更加高效、快捷、准确的医疗服务，更有助于缓解医疗服务供需失衡问题。专家系统、机器学习、深度学习、神经网络等人工智能技术与医疗领域深度融合，展开多种有益尝试，并取得良好效果。在中国，人工智能的运用更集中于医疗健康行业，以22%的占比位居全行业第一。医疗人工智能将改变医疗健康行业的服务提供方式、医生的工作模式以及医院的诊疗制度，对医生、患者的诊治和治疗产生影响，从而进一步影响医疗健康行业的发展趋势。其最早问世的专家系统应用于医疗辅助诊断、各种医疗机器人服务于医生和患者、深度学习等算法应用于医疗影像技术，促进医疗服务现代化，提供更好地医疗健康服务。但是需要关注的是，医疗人工智能在解决现实医疗问题的同时也蕴含一系列潜在的伦理问题，例如技术的安全性有待检验、智能医疗对医患自主性的破坏、对患者隐私的侵犯等，在大量的医疗技术完全落地之前，探明这些伦理隐患，有助于医疗人工智能向善发展，发挥其原本价值，从而进一步促进医疗健康行业的发展。

二、医疗人工智能发展现状

1.医疗辅助诊断。1972年美国斯坦福大学将DENDRAL系统升级为MYCIN，是早期的临床决策支持系统（CDSS，Clinical Decision Support System）在人工智能辅助诊断（CAD，Compute Aid Diagnose）中的应用。可以帮助医生诊断患者是由何种细菌感染患病，并对症下药，建议治疗药品。此后，在人工智能技术不断发展的背景下，CDSS不断创新优化，推陈出新，出现针对各种疾病辅助诊断的CDSS，成为CAD诊断的代表。例如IBM公司研发的“沃森健康”，辅助诊断肿瘤准确率达到90%以上，已在多家医院落地。北京中医医院的“关幼波肝病诊断程序”、吉林大学的“中医妇科专家”、IBM针对糖尿病预后开发的“IQcast”等。一定程度上提高疾病诊断效率和效果，促进医疗公平，将医生从繁琐的常见病诊断解放出来。医疗辅助诊断技术将提前为患者进行精确的疾病诊断，加快常见疾病的诊断效率，减少患者的等待时间。从而进一步提高医疗健康行业的服务质量和服务水平，促进医疗健康行业发展。

2.医疗服务机器人。1999年由Intuitive Surgical公司研制成功的“达芬奇手术机器人”以其灵活精准的“手术好手”、更加开阔的视野和更高的安全性成为是第一台得到FDA认证的外科手术机器人。“达芬奇手术机器人”在国外众多医院落地，国内部分医院也有引进使用。2021年的全球手术机器人市场规模达到200亿美元。此后，医疗机器人已实现较多落地迭代，可分为手术机器人、康复机器人、辅助机器人以及医疗服务机器人四大类。医疗机器人种类繁多，对患者和医生都将是得力的助手。手术机器人的服务时间不受限制，以及服务效果较为统一，不仅可以提高患者享受医疗服务的水平，而且可以进一步提高医疗健康行业的数字化、智能化进程。

3.智能医疗影像技术。传统的医学影像技术如CT、MRI、PET等在人工智能技术的加持下实现从呈现高清影像图片到提供高准确度的辅助诊断，并正在向自动诊断前进。深度学习中的卷积神经网络、堆叠自动编码器、生成对抗网络等图像特征识别算法不断改进医学影像技术水平，不仅可以自动实现图像自动分割，还可以实现疾病的自动诊断。如在2020年突如其来的新冠疫情之初，阿里云研发出可以在20秒内准确对新冠疑似病例CT影像判读，以科技抗击疫情，为疫情防控贡献科技之力。Bin Lu等人提出的多种机器学习算法在MRI中交叉应用，可以对AD进行自动诊断，分类准确率平均达94%。未来，医学影像技术在人工智能的赋能下有望实现更多的功能创新，改变传统的人工读片方式。此项技术在一定程度上解决医学影像数据较多且读片时间长的问题，以及放射科医生数量不多并且培养时间长的问题。同时亦有益于提高小医院的问诊水平，促进医疗公平。

三、医疗人工智能伦理问题初探

医疗人工智能发展是现实医疗健康行业发展的需要，也是人工智能技术发展的必然结果。目前医疗现状展现出不断上升的医疗需求，寻医问诊的患者不断增加，与此同时医护人员的从业数量和技术水平却有待提高。患者在医院诊治的过程中，医生问诊的时间似乎低于患者排队挂号拿药的时间，不仅耽误患者个人时间，也降低医院诊治效率。而一些常见疾病的诊断和治疗已形成一套诊断流程，可以使用医疗人工智能替代医生进行问诊。在人工智能高速发展的当今社会，人工智能技术与各产业融合创新是大势所趋，医疗领域更是急需人工智能技术的加持，提高整体医疗效率，促进精准医疗。但是医疗人工智能在解决现实医疗问题的同时也蕴含一些潜在的伦理问题，下文将展开分析三种伦理风险。

1.人工智能技术安全性问题。智能辅助诊断、医疗机器人或者智能医学影像技术将会直接或者间接的融入患者的治疗过程。医疗机器人是与患者直接接触，为患者做手术或者为患者提供医疗服务。在医疗过程中可能出现机器人手臂关节螺栓松动或者突然断电等问题。一旦医疗机器人出现故障，并且无人意识到，就可能对患者造成直接的伤害。有学者通过手术案例调查发现，在实际手术过程中确实存在着某些机器人功能障碍的安全隐患。

而AI辅助诊断和智能医学影像技术的核心是其内在的算法模型。人工智能算法具有自主学习推理特性，可以为医疗技术带来新改变，但是这种特性也伴随着算法黑箱和算法歧视问题，为医疗诊治带来安全隐患。一方面，当前大部分人工智能算法在可解释性上的缺失造成医生无法获知系统做出诊治结果的依据和逻辑的后果，不能二次验证结果的准确性。而一旦落地应用的系统出现误诊，医生便不能及时察觉。但是医疗诊治却要求因果逻辑，询证问诊。因此，人工智能算法的不可解释性可能会加剧医疗事故发生的风险。另一方面，算法是从大量的临床诊断数据中提取疾病特征形成问诊模型，辅助医生诊断。而供算法学习的数据却会存在地域、年龄、性别、社会经济地位等一系列人群特异性差别，若选取不当，则可能形成有偏见的算法模型，即模型的高效表现可能仅局限于部分特定人群，缺乏足够的迁移性，对其他人群诊断准确率较低，最终增大误诊机率。

智能医疗旨为给患者带来更加安全和高效的医疗服务。以AI辅助诊断、医疗机器人、医学影像技术为代表的智能医疗都存在一定的安全隐患，有违智能医疗的研发与应用的初衷。不能在医疗实践中遵循医学伦理学的不伤害原则。

2.患者医疗数据隐私问题。患者医疗数据隐私问题主要有两方面原因，一是医疗人工智能技术需要大量的患者就诊数据作为技术研发的训练数据。二是智能医疗在应用时会收集并上传一些患者的身体数据。

训练数据的来源必然是患者的医疗记录。但医疗记录中不仅包括疾病的诊治数据，而且涉及到患者个人的基因特征、健康状况、身份信息等。虽然现在可以通过一些匿名化算法隐藏患者的个人信息，但实际上由于各种数据平台互联之后，通过技术还原还是有可能追溯到原始数据信息。

利用智能医疗为患者诊断时，所涉及的患者信息都以个人电子病历 （EHR）和医疗信息系统 （HIT）元数据形式被保存于云端。黑客入侵、医疗信息丢失等情况都有发生过。一旦医疗数据遭到滥用，可能会对患者的就业和保险造成影响，从而造成社会不公、基因歧视等严重后果。而对患者在互联网平台上的个人信息保护也是当前面临的困难之一。

3.医患自主性问题。医疗人工智能对医生和患者的自主性均可能产生一定影响。由于智能医疗的黑箱特征的，真正对它们形成垄断权的只有“电子工程界”的同仁们。由于AI医疗的黑箱特征，在对AI医疗“无知”的这个问题上，医生和病患竟然奇迹般地站在一起了——他们也被去主体化。

对医生而言，医疗人工智能可以辅助医生进行诊断、治疗甚至术后方案，在此过程医疗人工智能的辅助诊断可能先入为主地影响到医生个人对患者的诊断。而且如果以医疗人工智能为主导的医疗情况长期以往的发展下去，可能会使医生无意识地服从人工智能的诊断。上述情况不仅不利于医生自我水平的提升，也不利于医疗人工智能与医生的协同关系正向发展。

对患者而言，医疗人工智能是一种模式化、普遍性的诊断和治疗方案。不能像医生一样了解患者真实的自我意识，只是依据患者的病理情况进行诊治。在这个过程中患者的一些个性化的诉求则无法实现，从而使患者的自主性降低，不利于医疗人文情怀的实现。

四、伦理问题对医疗健康行业的影响

医疗人工智能在医疗健康行业的应用将会为患者带来更好的医疗服务，将医生从基础疾病的诊疗中解放出来，提高医疗健康行业的服务水平与质量。但医疗人工智能潜藏的技术安全性、医疗数据隐私和医患自主性将会影响医疗人工智能技术在临床应用的效果，对患者、医生产生危害，从而减弱其在医疗健康行业中的应用效果，而且将对医生职业发展和医院制度产生影响。

医疗人工智能的技术安全问题对于医疗健康行业的发展有不可忽视的危害。医疗技术是直接与患者接触，为患者提高医疗服务。如果医疗人工智能技术的安全性得不到百分百的确证，将会对患者的生命安全产生难以弥补的危害。对医疗健康行业的整体服务水平造成危害，有违医疗人工智能技术应用于医疗健康行业的初衷。

医疗数据的隐私安全问题会侵犯患者的个人信息安全，数据的隐私问题一旦得不到可行的解决措施则，则会不利于医疗人工智能在医疗健康行业的长远发展。医疗人工智能的准确率来自大量的临床数据训练，一旦数据的来源可靠性无法得到保障，则会造成行业乱象，长此以往形成严重的危害。

医患自主性问题体现在医生和患者在医疗人工智能的应用中主体性的被剥夺。医疗人工智能的发展目的是为了服务医生和患者，为医生和患者带来高水平的医疗辅助和治疗。在治疗的过程中，人仍然是主体，处于中心地位。医疗人工智能的高度自主性使得医生和患者逐渐失去主体地位。这种现象导致医疗健康行业的医疗人文关怀无法实现。医患的自主性是患者自主权，知情同意权实现的前提，内在隐含的是医疗人文关怀实现可能性。而高度自主的医疗人工智能使得医疗健康行业的人文关怀内涵无法实现，使得以人为本的医疗变成没有温度的诊疗过程。

以上三种伦理问题均不利于人工智能加入的医疗健康行业的发展，不符合以人为本的医疗情怀，从而阻碍智能医疗健康行业的发展进程。对此应高度重视，妥善处理。

五、应对策略

1.研发可解释的人工智能算法。其既是医疗人工智能应用的必要前提，也是当前人工智能领域正在攻关的重点方向。这一点尤其关乎其在医疗领域的广泛应用。可解释人工智能有利于医生了解医疗人工智能诊断的依据，使医生可以做到二次审查，增加医疗人工智能的安全性。另外，医疗人工智能研发人员应注重数据收集的全面性和代表性，有关审查部门同样需要重点核查技术研发的初始数据，从多维度避免算法偏差。

2.增强数据保护。对于患者的个人医疗数据保护应采取高度重视，加强保护措施。加大研发数据匿名化技术，可以在数据使用之初进行匿名化处理，争取从源头切断数据与个人隐私的关联。另外可以加大患者医疗数据监管，构建统一数据平台，降低原始数据偷窃风险。

3.提高医生主导地位。在医疗人工智能广泛应用之前应对医生进行培训和预警，培养和引导良好的医疗人工智能和医生之间的正向协同关系，提高技术应用效果。医生主导地位的增强有利于患者自主性的实现。同时应注重医疗人工智能的拟人化发展，不能只体现出冰冷的书面诊断结果和治疗方案，应加强机器与患者的真实互动，有利于技术以人为本，向善发展。牢记医疗人工智能发展的初衷，不断为医生、患者、社会提供更加友善、高效的医疗服务。［基金项目：中国科学院人才项目（USTC-BR-2022-08）］

（作者单位：中国科学技术大学人文与社会科学学院）