我国医学人工智能的应用现状及伦理问题反思

肖志敏，沈兴蓉，刘 荣，王德斌

（安徽医科大学卫生管理学院，安徽 合肥 230032）

人工智能的概念在1956年第一次被明确地提出，60多年以来，人工智能技术已经取得了长足的进步，它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学[1]。人工智能在很多领域中发挥重要作用，其中包括医疗卫生领域。医学人工智能的应用在给人类的健康管理与疾病诊断带来极大的便利的同时也带来了诸多伦理问题和挑战。本文通过研究我国医学人工智能的应用现状，分析其存在的伦理问题，并尝试构建我国医学人工智能伦理治理总体框架，提高人工智能技术在医疗卫生领域中的应用水平，促进我国卫生健康事业的发展，提高人类的健康水平。

1 我国医学人工智能的应用现状

国务院《新一代人工智能发展规划》中明确指出要推动智能医疗发展，建立精准智能服务体系，探索智慧医院建设，开发人机协同医疗机器人、智能诊疗助手并加强智能健康和群体智能健康管理[2]。医学人工智能在我国卫生健康行业的应用越来越广泛，目前我国医学人工智能的应用主要包括7个方面：智能临床辅助诊疗应用、医用机器人、智能公共卫生服务应用、智能医院管理、智能化医学教育培训、医疗设备智能化管理和人工智能辅助药物研发[3]。这7个方面的应用涵盖了各级医疗卫生机构,方便了医生精确诊治的同时有效地提升了医师的诊疗质量和工作效率，使医院逐渐向互联网化、智能化发展，大幅度提升了患者的就医体验和百姓的满意度，极大地促进了我国医疗卫生领域的发展。

2 医学人工智能应用中存在的伦理问题

人工智能改变着人类的日常生活和工作方式，尤其在我国医疗领域有着广阔的应用前景，促进了我国医疗卫生事业的发展，但是随着人工智能技术的进步和发展一些伦理问题和挑战也随之出现，下文分析了在我国医学人工智能的应用中遇到的或潜在伦理问题。

2.1 隐私保护问题

我们既享受着大数据时代给我们带来的生活或工作上的各种便利之余,又深受着隐私泄露带来的困扰。人工智能技术的应用则高度依赖“数据”，它们需要从海量、多样、实时及序列的数据资源来进行训练和学习算法，在这一过程中，用户的很多重要数据，如身高、体重、血压、心功能、位置信息、生活习惯等，都将不可避免地被实时地采集和保存。通过挖掘和分析这些简单的看似是碎片化的个体资料,人工智能数据库系统就可以自动生成内容丰富的个体“肖像图”，从而导致使得用户在不知情况中失去了对自身隐私的控制权[4]。这些数据被医院或人工智能产品公司掌握，由于医疗数据本身具有较高的价值，如果这些信息被贩卖给骗子或者其他医疗机构，数据主体将面临着被诈骗或被推销医疗产品的风险；另一方面，如果这些数据因为管理不当或系统漏洞产生泄露，也将会对数据主体及其家庭造成严重损害。

2.2 公平性问题

医学智能化的一种重要实施途径就是“个性化”，即向每个个体提供各不相同的医疗卫生服务。目前我国的医疗人工智能的应用主要集中在大型医疗机构,偏远地区或基层诊所的患者或居民很难获得足够的机会去享受应用这项技术。另外，由于目前我国医疗人工智能的研究与发展还正处于初始和起步时期，研发成本高、研发人才少，导致一些人工智能提供的服务价格高昂，只有少数有钱人可以消费得起，这也是我国人工智能医学应用可及性和可负担性差的重要原因。难以保证大多数人受益，保证医学人工智能应用的公平性仍需一段漫长的道路[1]。

2.3 医务人员的职业地位弱化问题

智能化系统的应用，已经大幅度地降低了检验、病理、影像、手术等工作负荷。持续不断的智能化将会使越来越多的医疗卫生人员的工作内容发生变化、甚至变得多余，在未来高度智能化的产品可以直接生成检查结果和针对患者的治疗和建议，自助型的看病体验可能会使医生的专业权威甚至职业受到威胁，从而引发医患之间的信任危机。

2.4 医务人员被过度监视问题

医务人员监督评价系统可以有效的促进医务人员的诊疗规范化，提高工作效率，衡量绩效，但如果使用不当，会日益强化医疗卫生人员的“受监视”感，进而促使他们的日常工作决策与行为发生相应变化，如引发过度检查、过度审慎、刻意规范化等一系列问题，增加医务人员的工作量，过度检查又会提高患者的就诊费用。

2.5 技术依赖与成瘾问题

一些人工智能产品的应用，如医用机器人、医学辅助诊疗技术等的应用，给医生的诊断带来便利的同时，如果过度使用和依赖，可能会使医生产生依赖性，在专业知识和技术上产生懈怠；游戏型大众宣传与医生教育机器人、聊天型心理治疗机器人等的过度使用有可能引起患者的心理依赖、情感异化、能力退化等一系列问题。

2.6 医患关系问题

不断完善的智能咨询系统及智能化私人医生的应用，将慢慢改变现有的医患之间存在巨大的“信息不对称”状况。这种改变将对医患关系管理及医患纠纷的防控产生深远影响。智能化、网络化系统的日益普及，会允许患者同时获得多个医生、多个智能系统的诊疗与治疗建议。当这些诊断与建议经常出现相互矛盾时，将降低患者对医生的信任感，可能会引起医患纠纷[5]。

2.7 责任划分问题

随着医学人工智能技术应用的日益广泛，因技术滥用或技术不足以及技术管制中的疏忽而导致患者或居民健康与生命安全问题的机率也会相应增加。中间过程几乎是“暗箱”的“神经网络”的技术一旦出现偏差往往很难发现。基于云端或者互联网的人工智能平台很易受到非法入侵和控制，从而做出对人类有害的事情。过时或不适宜的证据与规则的应用在新环境中的错误应用会给出错误的诊疗建议，从而有损人类的健康与安全。当有机器人深度参与的医疗卫生服务若出现事故，又该如何界定卫生人员、机器及厂商等的责任？这一点在我国法律上还没有明确的规定。

3 对策和建议

近些年，人工智能等前沿技术逐渐应用到医学的方方面面，推动了新时代新型医学得诞生和演变，同样也赋予了传统医学新的理念、新的内涵、新的范围、新的诊疗手段与康复模式。这些无论对医生和患者，都带来了深远的影响，已经逐渐成为时代和社会发展的一种必然趋势。在无法逆转社会发展潮流时，必须正确处理医学人工智能技术在应用中所带来的伦理问题，推动医学人工智能技术健康有序的发展。一些地区在人工智能伦理治理上已有所尝试，欧盟在2019年提出“可信任的AI伦理准则”，即尊重人类自主原则、预防伤害原则、公平性原则、可解释性原则[6]。中国台湾在2019年发布《人工智能科研发展指引》，提出3个AI应遵从的核心价值：以人为本、永续发展、多元包容；还有八项核心指引：共荣共利、公平性与非歧视性、自主权与控制权、安全性、个人隐私与数据治理、透明性与可追溯性、可解释性、问责与沟通[7]。本文参考以上准则，从理念、研发、应用、监管4个方面提出对策和建议，确保医学人工智能在全生命周期内安全、稳健、合法且符合伦理地运行。

3.1 “以人为本”的理念

医学伦理学的三大基本原则为病人利益第一、尊重病人、公正。在医学人工智能的应用中，必须要遵循伦理学的基本原则[8]，医学人工智能产品是为人类的健康服务，在产品的开发、应用等全生命周期都应该贯彻“以人为本”的理念。以病人的需求为出发点，在应用人工智能的诊疗过程中充分尊重病人的各项权利和意愿。

3.2 技术稳健性和安全

一方面，制定产品和服务的研发标准和规范。在产品的研发过程中，将医学伦理学原则和法律准则“嵌入”到人工智能“算法”中，并事先对医学人工智能产品的实际应用场景、行为特点等进行道德风险评估，在前期进行道德防控[9]；另一方面，严格保护系统，防止漏洞和黑客恶意攻击，制定和测试安全措施以最大程度地减少意外后果和错误，并在系统出现问题时制定可执行的备份计划。

3.3 公平和透明性

医疗人工智能技术产品的部署和运行既要始终坚持其实质性的公平又必须能够保证流程的公平,应该能够确保其利益与成本之间的平等分配、个体和群体不被歧视或受偏见。同时,医学人工智能技术产品的各种功能与目的必须严格地保证信息公开透明,特别是在医学人工智能产品还处于临床试验阶段时,患者应具有知情同意权,患者有权利知道医学人工智能产品的精确度和局限性。

3.4 隐私和数据保护

在医学人工智能产品的研发、应用、销毁等全流程都要严格保护用户的数据和隐私，确保收集到的信息不被非法利用。应当从法律层面清晰地明确个人对于其信息所拥有的各种基本权利,规范企业在网络上搜索、发布和使用个人信息等的行为。因此,目前我国医疗人工智能的应用仍然急需政府部门制定一系列的安全性标准和完善相应的法律、法规,以便于保护病人的信息隐私，在任何一个环节都要严格保护、严防泄露。诸如所有涉及接触到访问、传递和存放受保护病人信息的专业技术人员和单位都应被限制在政府部门制定的相应安全性规范内。

3.5 有效监管

建立医学人工智能技术伦理与法律风险审查体系。包括区域性（中央、省、地三级）及规模较大医疗卫生机构内的“审查委员会”，以分别负责所在地区或机构的医学人工智能项目的伦理与法律风险的审查。强调“委员会”成员的合理组合，发挥人工智能学科专家、医学专家、哲学伦理专家、法律专家、社会学专家的协同作用。

人工智能在现代医学技术中得到快速的应用和发展,极大地促进了我国现代医疗卫生事业的繁荣与发展,这已经成为一个时代和社会发展的必然趋势[10]，必须重视医学人工智能发展中带来的伦理问题和挑战，在医学人工智能产品的开发、应用等过程中秉承以人为本的理念，保证产品的安全性和技术稳健性，遵循公开透明的原则，注重隐私和数据保护，建立相关审查体系，实现有效监管，让人类更多地享受技术的进步带来的便利，进而提高全人类的健康水平。