论医学人工智能的基本特征及其实践中的基本理念

杨同卫 苏永刚 封展旗

当前，医学人工智能取得突破性进展，临床应用越来越广泛。从检索到的文献来看，目前围绕医学人工智能的研究大致有两类：一是医学人工智能在影像、口腔、检验等领域的发展与应用情况；二是医学人工智能引发的伦理与法律问题。学者们认为医学人工智能可以用于对患者的辅助诊断和治疗，可以改善对患者的护理，能够增强医生的能力[1]；医学人工智能也引发患者隐私保护和医疗安全等一系列伦理和法律问题[2]；为了更好地使用医学人工智能，需要对不同行为主体的责任进行区分[3]。作为已有的研究拓展和补充，本文从工程哲学的视角对医学人工智能进行思考，归纳出医学人工智能的基本特征，从而深化对医学人工智能的认识；在此基础上，从工程理念出发，尝试性地提出发展医学人工智能的若干基本理念。

1 工程哲学视野下的医学人工智能

工程是功能强大、结构复杂的人工产品。工程活动不是单纯的某一项科学的实践应用，也不是相关技术的简单拼接，而是人类集成知识、技术、经验、劳动力、资金、土地等要素，建造复杂人工产品的现实活动。工程活动是对自然的改造，直接代表和体现着生产力水平和社会组织管理水平。人类建造工程的直接目的是为生产活动提供基础设施或工作平台。工程的建成和投入使用不仅改变了人与自然的关系，而且影响着人与人之间的社会关系，所以，工程活动是哲学的研究对象。一方面，工程活动的开展离不开正确的工程理念的引导，在工程理念的引导下，将知识、技术、经验等生产力要素集成、转化为现实生产力；另一方面，工程活动的目标是更加高效、更加便捷、更加持续地创造物质财富与满足人类需要[4]。

人工智能，是应用计算机或计算机控制的机器来模拟、延伸或扩展人的智力活动，从而帮助人类更好地探索和改造世界，开展生产活动，从而满足人类需求的复杂产品系统[5]。医学领域人工智能的开发应用被称为医学人工智能，目前已经涉及健康管理、临床决策支持、医学影像学筛查、疾病筛查、病历分析、居民健康管理等方面[6]。医学人工智能以基础医学、临床医学、基因组学、计算机科学、信号分析、心理学、伦理学为基础，以专家系统、人工神经网络和数据深度挖掘等人工智能技术为依托，是众多先进技术的集成和综合。医学人工智能的主要目标是用机器辅助医生完成复杂、高强度的医疗服务工作，如进行医学影像分析、医学诊断、疾病预测、健康管理等，以提高医疗服务质量和水平，更好地满足人民群众对于健康服务的个性化需求。医学人工智能对临床诊断、临床治疗、家庭康复都具有重要的辅助作用。可见，医学人工智能是在既定价值目标的指引下，通过研究、开发、应用等多个环节，整合知识、资源、资金、市场等要素，最终建造而成的结构复杂、功能强大的产品。医学人工智能的开发与研制是集成性、创造性的社会实践活动，体现为直接的现实的生产力，是典型的工程活动。

遍布全球的工程活动已经成为现代社会存在和发展的基础，深刻地塑造着社会文明，改变着人类的物质生活面貌。工程已经成为改造自然、服务人类的基础设施，与此同时，工程活动也带来了一系列环境、社会、伦理问题。只有从哲学高度理解人类工程活动，并根据这种理解来审视和指导工程活动，人类才可能将建构工程、改变社会与塑造未来有机统一起来。工程哲学是对工程活动的总体性思考，它将工程活动作为思考的对象，从哲学的高度探讨其本性、过程及后果。医学人工智能是客观物质世界发展到一定阶段的产物，它作为典型的工程活动，在造福人类的同时，也可能产生危及人类的各种不良后果。因此，从工程哲学的角度对医学人工智能进行系统思考具有理论和现实意义。

2 医学人工智能的基本特征

工程可以理解为利用各种资源与要素构建一个新的人工存在物的集成建造过程、集成建造方式和集成建造模式的总和。医学人工智能是人工智能的一个重要分支，它作为一项工程，和普通的人工智能一样，在过程上具有面向实践需求的建构性，在内容上具有人工智能科学与临床经验的高度集成性，在应用上具有面向社会的公共性，在效果上具有效益与风险的并存性。

2.1 在过程上具有面向实践需求的建构性

工程活动就是建构以前并不存在的事物。工程都是通过具体的决策、规划、设计、建设和制造等实施过程来完成的，所以，一个工程过程首先表现为一个建构过程，一个从无到有，从理念到图纸到现实的过程。建构不仅仅体现在物质性结构的建构，还包括诸如工程理念、设计方法、管理制度、组织规则等方面的建构，是一种综合性的建构。

医学人工智能源于人们对医学更高的期待；更加微创、更少痛苦、更精准的治疗，更细致的服务，更高的效率。医学人工智能以手术机器人为开端，通过融合移动互联网、大数据、无线传输设备，协助医生开展难度较大的手术。医学影像识别不知疲倦地工作，能敏锐地捕捉每一个细小的异常信息，是影像学医生的高级助手。智慧医疗、移动互联、大数据、个性化医疗是未来医学发展的趋势之一。医学人工智能在解放医生体力，增强医生能力的同时，也给患者带来了创伤更小、更加个性化的精准医疗服务。所以说，医学人工智能具有面向实践需求的建构性。

医学人工智能的集成建构是面向社会实践需求的，是用来满足医疗服务发展需要的。人工智能技术在20世纪中后期开始被引入医学领域，被用来辅助医生进行诊疗记录，或者作为统计分析工具来提升诊断效率。随着现代计算机技术的发展，出现了人工神经网络、模拟专家系统等技术，大幅度提升了人工智能水平，将医学人工智能推广应用到辅助诊疗、医学影像检查、疾病风险预测、精神病学分析、康复治疗等方面，对提高医疗资源配置效率，降低医疗服务成本，提高医疗服务水平起到了极大作用。

2.2 在内容上具有人工智能与临床经验的高度集成性

医学人工智能是人类智慧的结晶，它的发明应用以科学知识为基础，以经验知识为补充，具有人工智能科学与临床经验的高度集成性。

医学人工智能以医学和计算机相关知识为基础。医学专家系统就是在收集大量医学专家知识和经验数据基础上，运用人工智能技术，来模拟人类医学专家的工作过程。例如，Gulshan等使用12万张皮肤图片进行演练，最终将人工智能的识别灵敏度和特异性提高到98.1%和90.3%；Esteva等对皮肤病变、角质形成细胞癌和良性脂溢性角化病、恶性黑色素瘤和良性痣的图像进行分类，建立了相应的数据统计和信息分类，实现了医学人工智能对于皮肤病的辅助诊断[7]。

医学人工智能离不开临床经验，需要以经验知识为补充。医学人工智能不是单纯的科学知识的应用与转化，而是一个能动的、创造性的实践活动，实践经验和默会知识是十分重要的。从某种意义上说，人工智能数据库本身就是医生临床经验的汇集，具有经验性特征。此外，人工智能的算法也带有经验色彩，有待于在丰富的、真实的临床实践中不断验证和不断改善[8]。

医学人工智能中的科学性与经验性是相互依存、相互包含和相互转化的。随着医学人工智能的进步，工程活动中的个体经验所包含的科学因素不断丰富，个体经验转化为通用性的科学知识，同时新的实践经验被引入，工程经验的内涵不断深化，水平不断提升。

2.3 在应用上具有社会公共性

任何一个工程活动都是将技术要素和非技术要素集成起来的综合性的社会活动过程，没有社会赋予的意义，一切工程都是多余的，都是不可能付诸实践的。医学人工智能也具有社会性，建成之后是为大众服务的，在应用上具有社会公共性。

医学人工智能的投入使用具有广泛的社会性，产生了深远的社会影响。人工智能相对人脑的优势在于其毫不倦怠的强大计算能力，不仅可以避免医生因疲劳、疏忽而造成的误判，还可以发现人难以发现的细节。在一项用视网膜眼底照片来诊断老年性黄斑变性的尝试中，深度神经网络算法准确率达88%～92%，几乎和眼科专家的准确率一样。在通过深度学习来诊断心脏病发作的人工智能中，报告的敏感性为93%，特异性为90%，与心脏病学专家的诊断能力相当[8]。再如，家居护理机器人、陪伴老年人的伴侣式机器人、协助行动不便老年人出行的机器人等，对老年人居家管理、身心娱乐、疾病管控预防、康复治疗具有积极意义，已成为老年护理领域的重要工具[9]。医学人工智能研发与应用刚刚开始，未来医学人工智能将得到全面应用，将全方位服务于人民健康，推动中国的大健康、大医学、大卫生进入新天地。

当一项医学人工智能成果问世之时一般都会引发社会公众对于医学人工智能质量和效果的关心与评论。他们关心医学人工智能对自己的生活与工作环境的影响，他们关注医学人工智能可能的风险，以及医学人工智能引发的社会与伦理问题。所以，广泛宣传医学人工智能，让社会公众认识医学人工智能，参与和监督医学人工智能，是今后发展医学人工智能必须注意的一个重要方面。

2.4 在效果上具有效益与风险的并存性

任何工程都有明确的效益目标——经济效益、社会效益等，医学人工智能亦然。目前，医学人工智能在三个方面取得显著的经济效益和社会效益：对于临床医生，提供快速、准确的图像解释；对于卫生系统，改进工作流程和减少医疗差错；对于患者，处理个人数据、促进个人健康。

医学人工智能通过使用深度神经网络进行模式识别，帮助解释医学扫描、病理切片、皮肤损伤、视网膜图像、心电图、内镜、面部和生命体征。在未来，几乎所有类型的临床医生，都会涉足医学人工智能。随着机器学习、自然语言处理、知识图谱技术等技术的发展，人工智能在智慧医疗建设过程中起到重要的作用。目前，医学人工智能已经在区域健康档案管理、区域分级诊疗、院内流程管理等方面，助力事前、事中管理，以达到优化流程、合理调配医疗资源的目的。在医学人工智能与患者方面，人工智能技术和制造技术的发展必将推动康复护理机器人逐步走进社区、走入家庭，从而在根本上提升患者的生活品质。

在医学人工智能的实践应用中，效益与风险是相关联的。对于经济效益来说，总是伴随着社会风险、道德风险；对于社会效益来说则伴随着漏诊或误诊风险、质量风险。这是因为任何一项工程都是社会建构的产物，都不可能是理想和完美的，诸多环节不可能完全做到科学、准确和无偏差的整合；大的工程往往需要技术上的新突破和集成，囿于当时的科技文化水平，尚无法判断出它的潜在和远期负效应。因此，医学人工智能的应用是有边界的，目前欧盟拟通过立法，限制滥用人工智能，禁止在敏感领域使用人工智能。例如，禁止使用人工智能影响个人或群体的行为、意见或决策，以致其处于不利地位或受到伤害；禁止利用人工智能技术对个人进行任意和盲目的监视。

3 发展医学人工智能的基本理念

工程理念是人类关于应该怎样进行造物活动的理念，是对工程发展规律、发展方向和有关思想信念、理想追求的集中概括和高度升华。在工程理念的内涵中包含着究竟应该如何认识有关工程合理性和工程评判标准的问题。本文在医学人工智能基本特征的基础上，提出发展医学人工智能的若干基本理念。

3.1 坚持建构性，避免技术悲观主义

工程活动的建构性与实践性提示我们：真正的造物主不是上帝，真正创造世界和创造历史的是人民群众；工程是为人服务的，一项工程活动如果它不能用来解放人类或者让人类过得更加美好，那么它就失去了存在的意义。所以，在工程实践中，我们要坚持建构性与实践性，避免技术悲观主义。

当前，人工智能的自主性确实有了极大的提高，但它依然受控于人类，需要人的操控。首先，从现实层面来看，人工智能只能在信息充分、规则明确的前提下进行推理、计算，仅仅在逻辑、计算等理性能力方面表现出赶上或超越人的能力，而人类的能力是多方面的(如情感、意志、行动等)，人类还可以在信息不确定和不完备的情形下做出决策，所以，人工智能永远不可能代替人，不可能操控人。其次，从理论层面来看，人工智能的学习能力基于算法而不是社会交往，人造机器只能运用人类“喂给”它的知识，而不能进行知识的创新，所以，人工智能的智力不可能超越人类，医学人工智能不会主宰人类，不会颠覆医生的主体地位。

3.2 立足科学性，准确理解医学人工智能的功能

医学人工智能兼具科学性与经验性，是人体器官尤其是大脑功能的延伸，是医生的好帮手。

马克思在《资本论》中第一次提出了技术是人体器官延伸的观点，认为各种技术的发明，本质上来说就是人类为了延长自己的器官。与马克思同时代的技术哲学家恩斯特·卡普则提出了器官投影说，认为任何技术都是人体器官的模仿，也就是说技术从本质上来说就是人体器官的外部物化。医学人工智能是各种先进技术的集成，是对医生大脑功能的模仿。人工智能诊断技术基于大型数据库和深度学习，能捕捉人眼看不见的精细信息，获得更为客观和精确的诊断，是在某种意义上降低了医生的劳动强度。但从目前的技术水平来看，医用机器人本质上是执行技术人员或使用者意志的工具，其所做的判断和行为是根据预先设定的程序为依据。充其量，医学人工智能只是医生某一方面、某一领域的高级助手。更重要的是医患关系是一种情感关系，医生需要同情、尊重、关心患者，医患之间需要真诚的沟通与交流，从这个意义上来说，医学人工智能只是一项先进的技术，它只是在诊疗过程中帮助医生快速判断并提供建议，医学人工智能不可能成为有温度、有情感、有爱心的医生。

3.3 秉持公众性，尊重公众的知情权与参与权

工程是为人服务的，一项工程如果它不能用来解放人类或者让人类过得更加美好，那么它就失去存在的意义。鉴于医学人工智能的社会性与公众性，应尊重公众的知情权与参与权，向公众宣传医学人工智能，让公众了解医学人工智能的优势与不足，破除迷信与盲从，从而更好地、更恰当地使用和借助医学人工智能，更好地发挥医学人工智能的效用。

首先，计算机的算法依然无法完全替代人的分析判断。医学人工智能在诊疗过程中可以协助甚至增强相关数据处理的能力，但如何将各种信息有效利用，依然离不开医生基于临床经验的专业研究和判断，机器数据的临床意义有赖于医生的解读。其次，疾病的产生，不仅是人体内部的病变所致，也和人体与外部环境的相互作用有关，医学人工智能给出的结论和建议需要临床医生结合特定情境做综合分析。最后，气候与环境的变化，饮食习惯、心理状况、社会压力等外界因素都可能会对健康产生影响，对此类非直接因果关联的情境性分析，也是当前医学人工智能难以完全胜任的。

总之，应积极向社会公众宣传医学人工智能的优势与局限，让公众知情，通过不同主体的知识与价值观交流，消除对医学人工智能的信息不对称，使公众获得对医学人工智能更为全面的理解，并促进达成关于医学人工智能的社会共识。

3.4 注意风险性，做好质量控制与风险监控

鉴于医学人工智能的效益与风险性，应同步做好质量控制与风险监控。首先，医学人工智能只能对特定领域的任务进行处理，例如，腹部CT影像智能辅助肿瘤检测分析助手只能对占位性肿瘤进行检测，对明显的血管内皮细胞瘤却视而不见，过分依赖医学人工智能很容易造成漏诊。其次，由于技术水平的限制，医学人工智能本身存在一些不足与缺陷，例如，达芬奇机器人在操作过程中没有触觉反馈是一大弊端，术者手指无触觉感知，无法准确判断组织的质地、弹性、有无搏动等性质。术者只能通过分析视觉信息来判断器械对于组织的作用力及其他的组织特性，这就增加了手术的不确定性和风险性。再如，医学人工智能完全依靠事先设定好的算法，很难确定其在诊断罕见病方面的能力。最后，随着采集的数据越来越多，隐私保护与信息管控的压力将变大，相应的泄露风险也在增加，保证信息安全是防控医用机器人使用风险的重要方面[10]。

4 结语

工程是集成建构性知识体系使技术资源和非技术资源最佳地为人类服务的专门技术。医学研究已进入大数据和精准化并行融合时代，医学人工智能的开发应用是创造性的社会实践活动，是人工智能技术在医学领域的应用，是为了更好地实现疾病诊断、治疗、康复、预防目的，是为了提高诊疗效果，改善患者就医体验，因而是典型的工程活动。

我们在大力发展医学人工智能的同时，应系统思考医学人工智能的基本特征及发展医学人工智能的基本理念。笔者认为医学人工智能是人体器官尤其是大脑功能的延伸，是对医生的解放；机器数据的临床意义有赖于医生的解读，医学人工智能不能颠覆医生的主体地位。

希望医学人工智能使人类的成长得以可能——我们越是采用创新和节省劳动力的支撑体系，就越能改善我们的工作环境，也越能更好地服务于患者，也就越能解脱出我们的时间和精力去探究新的和充满希望的人类发展通途。