邹炼,谢朝,刘湘乡,胡金有,张薇莎,谢耀钦
1.中国科学院深圳先进技术研究院 医疗机器人与微创手术器械研究中心,广东 深圳 518055;2.四川省人民医院 肿瘤中心,四川 成都 610072
在放疗中,容积旋转调强技术(Vesicular Monoamine Transporter,VMAT)作为放疗领域的高端技术,适用于各种肿瘤的治疗[1-2]。它与静态调强技术(Intensity Modulated Radiation Therapy,IMRT)相比较,治疗时间大大缩短,使得患者治疗时的舒适度大大提高,有效减少治疗过程中患者体位变化几率,提高了治疗准确度。但是VMAT计划设计比IMRT更加复杂,具有更多的可调变量,包括准直器角度、剂量率、直线加速器多叶光栅的位置和大机角,这样VMAT计划优化和剂量计算耗时都比IMRT长,为了解决出现的优化和计算瓶颈,已出现并行计算与分布式计算技术的应用[3-7]。治疗计划厂商也提供了强大产品。比如瓦里安的解决方案是基于分布式计算框架整合多台Eclipse工作站来提高计算速度[8]。在大的肿瘤中心,瓦里安同样提供基于Citrix软件平台[9]的解决方案来提供高性能计算和灵活访问性。但是瓦里安提供次方案成本非常高,对大多数医院都不适合,并且临床Eclipse医疗软件安装在固定的电脑上,不能随处访问,而且这台电脑也不能安装其他软件,不能改变临床环境进行二次软件开发。
综上所述,本研究提出了创建单独的OpenStack[10]私有云并与临床放疗系统组成一个放射治疗系统混合云解决方案,OpenStack已应用于多种医疗领域,包括远程医疗、医学成像、公共卫生和医院管理等[11-14]。OpenStack是基础设施即服务组件,让任何人都可以自行建立和提供云端运算服务。所有资源都可以按需求动态分配。用户通过网络可以利用云计算获得高利用率和可扩展服务。本研究将所有的Eclipse软件移植到OpenStack私有云创建的虚拟机上,解决访问Eclipse医疗软件的位置局限性,在OpenStack私有云上创建多个分布式计算节点虚拟机提供强大计算资源缩短治疗计划设计周期,在私有云上创建研究教学虚拟机,不影响临床环境的基础上进行科研教学。
1.1.1 临床设备配置
我中心有3台Eclipse物理师工作站,4台Eclipse医生工作站和3台Aria客户端。瓦里安为我们提供一个集成的环境,所有的工作站共享中心数据服务。Eclispe物理师工作站拥有强大的计算能力,安装有所有的模块,包括医学影像处理、图像分割和治疗计划设计。Eclipse医生工作站有基础模块,不提供优化和剂量计算模块。Aria客户端专门用于管理放疗工作流程和医疗信息。
1.1.2 浮动授权
瓦里安软件授权模式是浮动授权,每个模块都有各自的授权,模块授权个数与所配工作站数量相同,当用户调用某个模块,相应的权限才会被调用,并消耗相应授权。当用户使用一台工作站的一个模块时,只消耗掉使用的当前模块的授权,此工作站所安装的其他模块没有被使用,存在授权闲置的情况,此外工作站位于不同楼层不同房间。如果有工作站闲置,用户不能在其他任意电脑上使用Eclipse软件。另外瓦里安Eclipse计划优化和剂量计算采用了分布式计算框架(Distributed Calculation Framework,DCF),3台Eclipse计算工作站提供的计算能力有限。
综上所述,需要找到一种有效的、成本低的解决方案,能充分利用软件的浮动授权的特性和增加分布式计算节点的数量,本研究提出用OpenStack创建单独的私有云,并与XenServer和英伟达GPU硬件的配合使用让多个用户实现硬件加速[15-16],并与临床放疗系统组成放射治疗计划混合云解决方案。
OpenStack是一个完全开源的云计算平台,可以支持用户实现类似于Amazon EC2和S3的云基础架构服务(Infrastructure as a Service,IaaS)[17]。OpenStack 能够将不用资源整合起来,为用户按需分配资源,实现了资源的集约化,提高资源使用效率,同时方便了运维人员的管理。本文基于OpenStack搭建了肿瘤放射治疗学科定制的私有云基础设施,我们把它命名为数据科学云(Data Science Cloud,DSCloud)。
放疗相关软件需要处理各种模态的医学影像,需要通过三维渲染来渲染出人体的各种解剖结构,对计算机硬件的GPU有一定的要求。放疗软件中对三维或四维的影像处理和图像配准,以及对于容积调强放疗计划的逆向优化过程和剂量计算等都是高计算强度的任务,对计算机硬件的CPU性能要求较高。基于这些特征考虑,私有云建设的主要目标是:① 具备虚拟GPU的支持;② CPU主频和核数满足高计算强度要求;③ 内存配置足够支持多种应用场景的虚拟计算机集群;④ 具备一定的存储容量。
DSCloud所采用的硬件包括:① 戴尔PowerEdge R730机架式服务器(2台):分别配有支持GPU虚拟化的Nvidia Grid K1显卡,2颗英特尔至强 E5-2660 v4 CPU,192 G内存,2 T硬盘;② 戴尔PowerEdge R910(1台):4颗英特尔至强E7-4809 v4 CPU,256 G内存,8 T硬盘;③ 戴尔PowerEdge R630(1台):1颗英特尔至强E5-2609v3 CPU,16 G内存,1 T硬盘。虚拟化技术采用Citrix的XenServer企业版本,OpenStack通过Xen API驱动管理支持虚拟化GPU的虚拟机。网络配置上划分为OpenStack组件间通信网络和用户网络。OpenStack采用Liberty版本,基于Ubuntu部署,只部署了认证组件、镜像服务、计算服务、用户界面、对象存储、块存储和网络服务等主要组件。DSCloud建设完成之后的框架,见图1。用户可以根据应用需求动态创建计算机资源,并且能够满足对GPU有要求的应用。
图1 OpenStack私有云基础架构
本文OpenStack基础架构(图1),在机架式服务器上搭建OpenStack云计算平台,管理创建虚拟机,研究创建了3种类型虚拟机:科研教学虚拟机、Eclipse工作站虚拟机和Eclipse计划系统分布式计算虚拟机,科研教学虚拟机安装开发工具,Eclipse工作站虚拟机安装有Eclispse医疗软件所有模块,Eclispe计划系统分布式计算虚拟机安装了Eclipse计算模块提供计算资源。
放疗系统混合云平台环境,见图2,DSCloud与临床放疗系统组成混合云。左边是临床放疗系统环境,由Aria中心数据服务器统一管理医生工作站、物理师工作站、Aria客户端、CT模拟机、模拟机和加速器。右边是DSCloud,DSCloud云平台下有Eclipse工作站虚拟机、科研教学虚拟机和DCF计算集群,Eclipse工作站虚拟机上安装有Eclipse医疗软件,提供所有的模块,包括医学影像处理、图像分割和治疗计划设计等。科研教育虚拟机上可以安装各种开发工具,比如C++、Phython、Office等软件,方便科研和教学用。DCF计算集群为Eclipse计划优化和剂量计算提供计算资源,缩短优化和剂量计算时间。其他电脑使用NoMachine远程桌面软件通过局域网启动DSCloud云平台创建的虚拟机,并获得Eclipse软件服务,在通过网络访问Arica中心服务器。
图2 放疗系统混合云平台环境
Eclipse放疗系统混合云平台中DSCloud由OpenStack和XenServer相结合组成,能按需分配计算机,提高医疗软件利用率,同样DSCloud实现了科研教学的目的,并且对于容积旋转调强技术,实现DCF计算集群,实现高性能计算。
任何工具在应用于临床之前都需要做大量的验证过程,确保准确无误,方能使用。本文对混合云平台进行了详细验收测试,见图3,包括:病人信息、处方信息、工作流程、基本操作、模体、病人实例、计划优化和剂量计算测试等,这些都符合临床使用要求。
混合云为我们提供独立的虚拟机,单独的配置环境,摆脱临床电脑不能安装其他软件的局限,可以安装开发工具,比如AutoHotKey、C++、Phython等程序,实现临床工作的自动化处理,具备科研和教学的条件。
图3 混合云治疗计划调试验收
基于混合云我们已实现了一些自动化工作[18],见图4,它就是一个自动完成计划辅助结构生成的软件,运行软件后,自动生成了PTV2、PGTVnd、Ring4000、Ring5000和SpinalCordPRV。
图4 轮廓的自动生成
首先安装有NoMachine和获得远程访问授权的电脑接入云平台局域网都能轻松访问Eclipse软件,其次基于瓦里安软件模块浮动授权的特性,在混合云平台上,能让这种特性利用率最大化,不受地域限制(图5),只要连入局域网的电脑都能访问Eclipse软件,由于一台工作站不能完成使用完此台工作站安装的模块权限,其他电脑就能使用剩下来的模块权限,让Eclipse闲置模块权限得到充分使用。
在DSCloud上的创建多个DCF计算节点,能有效提升VMAT计算速度,降低计划优化和剂量计算时间,见图6~7。黑色表示未增加DCF计算节点前情况,灰色表示增加DCF计算节点后的情况。在增加多个DCF计算节点的基础上,VMAT优化时间平均减少了一分多钟,剂量计算时间大幅度降低,平均减少了10 min。
图5 软件模块浮动授权
图6 容积旋转调强优化时间对比
图7 容积旋转调强计算时间对比
本研究构建了Eclipse放疗系统混合云平台,创建了3种类型虚拟机:Eclipse工作站虚拟机、科研教育虚拟机和DCF计算集群。此系统具有以下4个特点:① 保持销售商原有的分布方式,提高软件模块的浮动授权利用率;② 提供独立开发软件和运行自动化工具的环境;③ 提供可增减的具有Eclipse分布式框架的计算资源实例,来解决剂量计算资源不足的情况;④ 支持多平台的虚拟桌面通过网络访问Eclipse治疗计划系统软件。
[参考文献]
[1] Teoh M,Clark CH,Wood K,et al.Volumetric modulated arc therapy: a review of current literature and clinical use in practice[J].Br J Radiol,2011,84(1007):967.
[2] Popescu CC,Olivotto IA,Beckham WA,et al.Volumetric modulated arc therapy improves dosimetry and reduces treatment time compared to conventional intensity-modulated radiotherapy for locoregional radiotherapy of left-sided breast cancer and internal mammary nodes[J].Int J Radiat Oncol Biol Phys,2010,76(1):287-295.
[3] Gu X,Jelen U,Li J,et al.MO-F-BRB-03: A GPU-based finitesize pencil beam (FSPB) algorithm with 3D-density correction for radiotherapy dose calculation[J].Phys Med Biol,2011,56(11):3337-3350.
[4] Jia X,Gu X,Graves YJ,et al.GPU-based fast monte carlo simulation for radiotherapy dose calculation[J].Phys Med Biol,2011,56(22):7017-7031.
[5] Jia X,Ziegenhein P,Jiang SB.GPU-based high-performance computing for radiation therapy[J].Phys Med Biol,2014,59(4):151-182.
[6] Men C,Jia X,Jiang SB.GPU-based ultra-fast direct aperture optimization for online adaptive radiation therapy[J].Phys Med Biol,2010,55(15):4309.
[7] Ziegenhein P,Kamerling CP,Bangert M,et al.Performanceoptimized clinical IMRT planning on modern CPUs[J].Phys Med Biol,2013,58(11):3705-3715.
[8] EclipseTMTreatment Planning System[EB/OL].https://www.varian.com/oncology/products/software/treatment-planning/eclipse?cat=overview.
[9] Surksum KV.Release: Citrix Receiver for iPad and iPhone5.0[J].2011.
[10] OpenStack Official Site[EB/OL].http://www.openstack.org/.
[11] Griebel L,Prokosch HU,Köpcke F,et al.A scoping review of cloud computing in healthcare[J].BMC Med Inform Decis Mak,2015,15(1):17.
[12] Miras H,Jiménez R,Miras C,et al.CloudMC: a cloud computing application for Monte Carlo simulation[J].Phys Med Biol,2013,58(8):125-133.
[13] Wang H,Ma Y,Pratx G,et al.Toward real-time monte carlo simulation using a commercial cloud computing infrastructure[J].Phys Med Biol,2011,56(17):175-181.
[14] Na YH,Suh TS,Kapp DS,et al.Toward a web-based real-time radiation treatment planning system in a cloud computing environment[J].Phys Med Biol,2013,58(18):6525-6540.
[15] NVIDIA GRIDTM virtual GPU technology[EB/OL].http://www.nvidia.com/object/grid-technology.html.
[16] HPC Cloud enablement using XenServer, OpenStack and NVIDIA GRID GPUs-XLcloud[EB/OL].https://www.citrix.com/blogs/2014/03/06/hpc-cloud-enablement-using-xenserveropenstack-and-nvidia-grid-gpus-xlcloud/.
[17] OpenStack Compute Administration Manual[EB/OL].[2016-11-29]. http://docs.openstack.org/cactus/openstack-compute/admin/content.
[18] 谢朝,胡金有,邹炼,等.Eclipse计划系统轮廓自动生成软件开发[J].中国医疗器械杂志,2015,39(3):225-227.