医疗卫生领域的人工智能

美国政府问责署（GAO）和美国国家医学院（NAM）联合发布了《医疗卫生领域的人工智能》（Artificial Intelligence in Health Care）报告。报告第一部分是NAM 2020年特别报告《医疗卫生领域的人工智能：希望、炒作、承诺和风险》的摘录；第二部分是GAO对医疗卫生领域人工智能的评估报告《医疗卫生领域的人工智能：机器学习在药物开发中的优势和挑战》。

第一部分

NAM特别报告《医疗卫生领域的人工智能：希望、炒作、承诺和风险》

美国国家医学院的特别报告《医疗卫生领域的人工智能：希望、炒作、承诺和危险》对当前人工智能用于药物开发的现状进行了调研，为医疗卫生领域内的相关人员，如人工智能和机器学习（AI/ML）模型开发人员、临床医生、病人、监管人员和政策制定者提供了易于获取的指南。本报告的NAM专家工作组由来自公共卫生学、信息学、生物医学、伦理学和应用科学各学科的带头人组成，工作组为当前人工智能的应用提供了范例。报告着眼于人工智能用于药物开发的近期可能性，强调了相关的挑战和局限性，并概述了医疗卫生领域中人工智能开发和应用的基本伦理、法律、监管和社会影响等因素。

NAM曾召集了一次来自各利益相关方60多名专家参加的研讨会，专家们对更好确保医疗卫生领域中AI/ML的开发、部署和应用的草案进行了审议，草案内容包括：对解决方案和方法的描述；对医疗卫生领域内AI/ML模型开发和配置的指导；促进医疗卫生人工智能开发利用并取得进展的办法和途径。作为积极参与者之一的GAO就报告内容提供了各方面的重要反馈意见。根据讨论内容，并辅以外部专家的书面评论，NAM的报告确定了以下几项相关主题。

人工智能和机器学习对医疗卫生领域发展的潜在重要性

随着医疗卫生各部门纷纷进入数字平台，与健康相关的常规流程以及医疗卫生和生物医学科学研究生成的信息量出现了惊人增长。特别是随着对健康和疾病潜在遗传倾向探索的不断深入，使用人工智能和分子工具的能力将很快成为促进精准医学领域发展的关键。

此外，要从医疗卫生移动应用程序和传感器每天生成的大量数据中提取有用信息，需要具备对多来源数据同时处理的能力。随着数字平台开发的环境和地理空间传感器的可用性越来越高，需要AI/ML提供更多的额外数据空间，才能为大量数据纳入预测建模工具提供条件。

人工智能和透明度

随着人工智能应用程序为医疗卫生部门决策提供新视角能力的不断增强，人们意识到，我们迫切需要算法和数据源的透明性，算法透明性的需要是基于风险、预期用途和具体情况的。例如，与一个低风险的、向最终用户传达明确建议的、能准确记录的工具相比，一个具有直接临床意义的高影响力人工智能工具需要有更严格的说明要求。因此，人工智能开发人员、具体实施者、用户和监管者应该协作定义其指导方针，以明确整个过程所需的透明度水平。

随着这一领域的快速发展，监管者和立法者必须灵活保持人工智能创新、安全和信任之间的平衡。为避免对人工智能的发展产生阻碍，同时确保适当的监督力度，监管者必须让各利益相关方和专家参与到基于真实世界数据的人工智能临床应用的评估中来。作为一种预告，美国食品药品管理局（FDA）发布了一项基于患者风险水平、人工智能自主性和工具动态性的医疗卫生人工智能评估框架。然而，随着新数据大量涌现环境下机器学习模型的发展，以及这一领域内法院、监管机构和保险公司等部门越来越多的参与，相关责任问题也将继续展开。

降低宣传炒作热度

随着人工智能潜在奇迹的传播热炒渗透到社会意识中，人们很容易被误导产生过度恐惧和盲目乐观情绪，这些情绪会掩盖其短期可能性。虽然人工智能的能力与人类解决问题的能力相比有一定的局限性，但人工智能自动化已为颠覆性的工作场所创新做好了准备。为最大限度地帮助卫生专业人员跟上快速增长知识库的发展，对信息技术（IT）和机器学习（ML）的依赖还是很有必要的，医学教育需要一个实质性的改革。这需要更多地关注人工智能作为常规决策辅助工具的使用，跨多个专业的培训计划需要侧重于数据科学和对人工智能产品和服务的适当使用。还需要建立这些新兴技术与患者和消费者舒适度之间的桥梁功能，以确保临床医生与患者之间的信任。最终目标是要建立人工智能和数据科学方面的能力，以达到医疗人工智能为人类提供辅助性益处的目的，而不是取而代之。因此，近期的关注点不妨称为“智能增强”。

优先考虑公平和包容性

在NAM报告中列出的许多考虑因素中，特别强调了“适当和公平地发展、实施医疗卫生人工智能”。优先考虑公平和包容性始于从丰富的、具有人口代表性的数据集发展而来的算法。尽管有大量的医疗卫生数据，但由于缺乏系统互操作性和次优的数据标准化技术，无法有效地集成来自不同系统的健康数据。没有强大的数据基础，人工智能算法无法成功达到可推广性和实用性的层次。

要确保在人工智能技术开发和部署过程中，公平性和包容性始终处于首要地位，需要系统管理者、人工智能实施者和监管者的积极参与，因为要由他们来做好确定人工智能工具是否适合特定环境的工作，并就人工智能工具的引入是否会加剧现有的偏见和不公平提出问题。为满足患者和社区的需要，卫生服务机构正在制定治理战略，扩大与社会决定因素、心理社会学数据之间的联系。可通过国家一级的监管力度来降低采用这些技术的障碍，并尽量减少因信息技术能力不足和社区服务水平低下可能造成的数字鸿沟。

第二部分

GAO评估报告《医疗卫生领域的人工智能：机器学习在药物开发中的优势和挑战》

美国政府问责局的评估报告《医疗卫生领域的人工智能：机器学习在药物开发中的优势和挑战》是应国会要求，对医疗卫生中使用人工智能技术开展的一系列计划的首次评估，评估重点是其前瞻性和政策影响。报告讨论了以下三个主题：可用于药物开发的现有和新兴人工智能技术及其潜在益处；开发和采用这些技术面临的挑战；药物开发中使用机器学习面临挑战的政策选择。

GAO为何研究机器学习在药物开发中的应用

目前的药物开发是一个漫长且昂贵的过程，开发新药并投放市场可能需要10到15年时间。在获得FDA批准之前，药物开发人员要对新化合物的好处和风险进行研究评估。在最初测试被认为有药物潜力的10 000种化合物中，大约只有一种能够通过研发，然后由FDA确定其安全有效性后批准在美国上市。机器学习在药物开发中的应用为我们展开了一个新的视角。

GAO应国会要求对人工智能技术在药物开发中的应用进行评估，主要对药物开发的前三个阶段进行了评估，即药物发现、临床前研究和临床试验；采访了一系列利益相关者团体，包括政府机构、行业、学术界和非政府组织；与国家研究院联合召开了一次专家会议，会议旨在增进GAO对机器学习在医疗和药物开发方面的理解；审查了主要报告和科学文献；最后在报告中确定了政策选项。

机器学习加速药物研发

机构官员、行业代表和学术研究人员等利益相关者表示，机器学习在药物开发中具有巨大潜力。机器学习属于人工智能的一个领域，即软件在数据流中学习并拥有完成某项任务的能力。机器学习已被用于药物开发，并有可能给药物开发领域带来革命性的改变。机器学习可贯穿于整个药物开发过程，可加快候选药物的发现、筛选、设计和测试，提高药物开发的效率和有效性，减少新药上市所需的时间和成本。这些改进可以通过更快地向有需要的患者提供药物来挽救生命和减少痛苦，并可让研究人员在罕见病等领域内投入更多资源。

技术评估展示了机器学习研究和应用的广度，并举例说明药物开发过程的前三阶段：药物发现、临床前研究和临床试验。在药物发现方面，研究人员正在使用机器学习识别新的药物靶点，筛选已知化合物用于新的治疗应用，以及设计新的候选药物等。在临床前研究中，机器学习可以加强候选药物的临床前检测，在药物用于人体实验前，研究人员要加大临床前测试和对药物潜在毒性预测的力度。在临床试验方面，研究人员开始使用机器学习改进临床试验设计，这也是许多候选药物失败的阶段，这一阶段研究人员的工作包括将机器学习应用于患者选择和志愿者招募，以及确定对某些药物反应较好的患者群体等，从而朝着精准医疗的前景迈进。

机器学习的挑战

根据文献资料及利益相关方和专家的意见，技术评估确定了阻碍机器学习在药物开发中应用的几项挑战。例如，生物学、化学和医学研究的空白限制了对这一领域的理解和影响力；另一项挑战是缺乏保证机器学习有效性所必需的高质量数据，由于成本、法律问题以及缺乏共享的激励措施，造成了访问和共享这些数据的困难；此外，拥有专业技能和跨学科知识工作人员的缺乏也给制药公司带来了人员招聘和留住人才方面的挑战；最后，机器学习在药物研发中监管政策的不确定性可能会限制这一领域内的投资。其中一些挑战与NAM特别报告中确定的挑战类似，例如缺乏高质量、结构化的数据等，而其他一些挑战则是药物开发领域所特有的。

机器学习的政策选择

通过机器学习，可筛选出更多化合物，与目前的方法相比，可在更短时间内找到有希望的候选药物

针对这些挑战，GAO制定了六大政策选择。其中五大政策选择集中于研究、数据访问、标准化、人力资本和监管确定性。最后一个是当前现状，即政策制定者不需要对人工智能在药物开发领域内的应用加以干预，这些政策制定者包括联邦机构、州和地方政府、学术和研究机构以及工业界等。有关政策选择、新的机遇和挑战参见“机器学习在药物开发中面对挑战的政策选择”表。

机器学习在药物开发中面对挑战的政策选择

资料来源 GAO