基于SVM的一种医疗数据分析模型

2015-03-23 03:53田宇驰
关键词:条数超平面特征选择

田宇驰,胡 亮

(吉林大学计算机科学与技术学院,吉林长春130012)

基于SVM的一种医疗数据分析模型

田宇驰,胡 亮

(吉林大学计算机科学与技术学院,吉林长春130012)

基于SVM分类算法和Web服务框架,提出了一种医疗数据分析与疾病预测模型,改进了医疗数据分析系统与医院数据库之间的数据传输协议.采用该模型与长春某三级甲等医院合作,获取了总共1 695条病人电子病历数据与病人疾病信息作为实验数据,并在医疗数据分析系统中进行数据挖掘分析.通过数据条数的变化和对属性的控制来测试设计的数据分析模型和改进的数据传输协议的传输效率.实验表明,在传输数据之前对数据进行预处理并且通过特征选择算法进行降维处理有助于提高整个系统的医疗数据传输效率和预测准确度.

Web服务;SVM;电子病历;特征选择

医院现在广泛采用电子病历系统,通过电子病历系统对病人的健康状况进行长期跟踪.一部分医院除了在病人发病时对病人进行治疗外,还借助病历记录的医疗数据和疾病预测系统对病人的健康状态进行分析,对疾病进行预测,从而达到提前预防和及时治疗的目的.

电子病历的研究在计算机和医学领域同时得到了很高的关注.电子病历是医疗数据的数字化信息,它包括病人的健康状况、治疗过程和影像信息等.这些数字化信息的出现催生了医疗数据信息的管理与共享[1]和医疗数据的分析与疾病预测2个领域的研究.

医疗数据的数字化使得用计算机辅助医学进行数据采集、分析与疾病预测成为可能.近几年,软计算方法、支持向量机(SVM)和人工神经网络(ANN)已经应用在疾病预测上.如SVM算法用于诊断缺血性心脏病[2];SVM和鉴别集算法的结合能诊断老年痴呆[3];ANN算法用于进行动脉粥样硬化和心血管疾病的早期预防[4]等.

本文提出了一种基于SVM分类算法和Web服务框架的医疗数据分析与疾病预测模型.该模型先对电子病历中部分医疗数据进行特征选择和降维处理,再将这些维度的所有数据按照是否感染某种疾病进行分类并作为SVM算法的训练数据集,最后使用训练得到Lagrange乘子,对病人的疾病进行分析预测.这一模型为数据挖掘中的软计算方法应用在医疗数据的分析中提供了方案.使用医疗数据对模型进行测试发现,特征选择方法对部分医疗数据进行处理后,医疗数据的传输效率明显高于原始模型.

1 医疗数据分析模型

将医院、医疗保健组织等数字化的医疗数据以特定的格式、协议发送到医疗数据分析模块进行分析与疾病预测.

医疗数据分析模型组成见图1.

医疗数据提取模块:该模块由医院电子病历系统负责实现,我们使用openEHR系统作为医院电子病历系统,并在openEHR中实现医疗数据的提取功能.openEHR系统是一个开源、灵活的电子病历系统,支持HL7卫生信息交换标准[5].很多医疗健康组织、政府和学术科研单位都使用openEHR进行开发和科研工作.如一种基于openEHR的患者病历数据管理模型、openEHR等许多开源的电子病历平台的对比与评估和基于openEHR的档案建模等[6-8].

数据交换模块:基于Web服务的数据交换模块使用医疗数据通信协议实现医疗数据分析模块与医疗数据提取模块的数据交换.Web服务[9]是一个平台独立、松耦合的Web应用程序.由于Web服务的跨平台特性,许多模型与框架是基于Web服务构建的,如基于Web服务集成分布式资源[10]和数据流分析测试[11]等.在本文提出的医疗数据分析模型中,使用Web服务来连接医疗数据分析模块和医疗数据提取模块.医疗数据提取模块作为Web服务的服务端,实现的方法包括存取数据、数据预处理、序列化等,改进后的模型要求实现指定维度,指定属性数据的读取.本文提出的医疗数据分析模块作为Web服务的客户端,通过HTTP服务向数据提取模块请求获取数据,并对数据进行预处理.

医疗数据分析模块:我们使用Caisis开源平台作为医疗数据分析与疾病预测系统实现这一模块.Caisis是基于Web的开源癌症数据管理系统,一些临床医学研究使用Caisis系统管理和归档数字显微图像[12],通过向Caisis系统中添加特征选择和SVM算法,使用SVM算法对医疗数据进行分析和疾病预测,因此使用的特征选择算法需要基于SVM,可以提高数据分析和疾病预测过程的效率和准确度.

2 数据分析模块与算法

2.1 SVM算法

SVM算法最初是由Vapnik等人在1995年提出的一种可训练的机器学习算法[13].依据统计学习理论、VC维理论[14-15]和结构风险最小化理论[16],从一定数目的样本信息在学习能力和复杂度(对训练样本的学习程度)中找到最佳折中,以期望获得最好的推广能力(或称泛化能力).

SVM一般用在二分类问题上,二分类问题的形式化定义:对于给定的训练集(x1,y1),(x2,y2),…,(xn,yn)∈Rn×R,其中xi∈Rn,yn∈{-1,1},i=1,…,n,根据训练集在Rn空间上找出一个实值函数g(x),使得指示函数(或称决策函数、分类函数)

在对xi进行分类的时候,取一个阈值ε,当g(xi)>ε时sgn(g(xi))选择一个类别;当g(xi)<ε时sgn(g(xi))选择另一个类别[17].

二分类问题的本质就是获得一个可以将Rn空间分成两部分的实值函数g(x).如果g(x)为线性函数,则分类器就是线性分类器;如果g(x)为非线性函数,则分类器就是非线性分类器.对于线性分类问题,g(x)=(w·x)-b(其中(w·x)是向量w与向量x的内积),可以将2个类别无错误的分割开来,所表示的分隔函数被称为超平面[18-19].

对于线性分类问题,2个类别中间的那条超平面可能并不是唯一的,我们需要一个指标来评价分类函数的优劣.其中分类间隔(margin)是SVM分类中的一个指标,这个指标通过分类间隔大小来评价一个超平面是否是最终的最优超平面.下面给出最优超平面的定义:

假设训练集数据(x1,y1),(x2,y2),…,(xn,yn)∈Rn×R,y∈{-1,+1}可以被超平面,有

且超平面与每个分类中最近的样本点之间的距离(分类间隔)最大,因此这个超平面为最大间隔超平面,即最优超平面.

H是分类面,而H1和H2是平行于H,且过离H最近的两类样本的直线,H1与H,H2与H之间的距离就是几何间隔.

这里的分类间隔指的是H1与H2之间的几何间距.

下面给出几何间距的定义:

对于给定训练集(x1,y1),(x2,y2),…,(xn,yn)∈Rn×R,其中xi∈Rn,yi∈{-1,1},i=1,…,n.我们定义样本点(xi,yi)到超平面的间距

几何间距表达式

为了构造最优超平面,需要在约束条件yi(w·xi+b)≥1,i=1,2,…,n的情况下,最小化函数

这是一个在线性约束条件下凸二次规划问题,根据Lagrange求解方法[20],通过构造Lagrange乘子α=(α1,α2,…,αn),得到最后的判定函数

2.2基于SVM的医疗数据分析模块

将SVM分类算法应用到医疗数据分析模块中,进行疾病预测.如图2是基于SVM的医疗数据分析模块,通过数据交换模块获取原始组数据(患病病人医疗数据和对照组病人数据).通过特征选择过程输入到SVM分类器中进行训练,训练后可以对新的医疗数据进行分析预测.

3 改进的医疗数据交换模块

3.1医疗数据交换模块

在原始的医疗数据交换模块中,数据请求原语只由4条通信原语组成(如图3所示).图3由原始医疗数据分析模型的3个模块构建,其中在医疗数据分析模块与医疗数据提取模块之间的4条通信原语包括2条请求和2条应答.由于医疗数据的维度极大,属性很多,但是在预测某个疾病时,只有很少的一部分属性会对分类预测产生影响.这样的全部维度的数据都需要传输,浪费了时间,降低了数据传输效率,影响了医疗数据分析模块的算法效率.

3.2改进的医疗数据交换模块

在改进的医疗数据交换模块中,在数据传输协议中增加了4条原语(见图4).在每条原语中不仅有医疗记录条数的要求,还包括对所请求医疗数据维度和属性的具体说明.医疗数据分析模块先请求一小部分全部维度的数据,对这小部分数据进行特征选择.然后医疗数据分析模块只请求特征选择出来的对预测相关的属性的剩余所有医疗数据.最后通过SVM分类算法进行训练和预测.在新的医疗数据交换模块中,大部分数据中只有小部分相关属性被传输到数据分析模块,极大地减少了数据传输总量,也同时增加了分析模块预测算法的效率.

4 医疗数据模型的对比评估

4.1数据传输效率的计算

在实验中假设特征选择出的结果为141个属性中的22个属性,这22个属性是运行特征选择算法得到的结果,假设Caisis中训练需要的原始组数据和对照组数据总条数取相同的N值.

在原始的设计模型中,在Caisis和openEHR分别发送请求和接收数据的过程中,分别针对原始组和对照组病人数据记录了8次系统时间t1-t8.原始设计模型的总数据传输时间可以表示为

改进的设计模型中,假设Caisis在特征选择过程中需要的原始组和对照组数据条数相等,设为n,训练过程需要的数据总数为N-n.在实验中分别针对原始组和对照组数据16次记录了系统时间g1-g16.改进后的设计模型的总数据传输时间可以表示为

4.2实验结果分析与评价

原始模型与改进模型的对比结果见图5.由图5可知,在对改进后的模型进行实验评估时,当Caisis系统请求的训练数据总数从100~600条变化时,特征选择请求的数据条数均取100条.当Caisis系统请求的训练数据总数为100条时,改进模型与原始模型的总数据传输时间是相同的,这是因为当Caisis系统请求的训练数据总数与改进模型的特征选择请求的数据条数都是100条.无论是原始模型还是改进模型,openEHR系统发送回来的数据都是100条的全部属性.所以,当Caisis请求的训练数据总数与进行特征选择的条数相同时,改进模型降级为与原始模型具有相同传输效率.但是随着Caisis系统请求的训练数据总数的不断增加,改进模型则具有非常明显的优势(见图5).

图6是对改进模型的评估.当Caisis系统请求的医疗数据总数一定时,随着Caisis系统进行特征选择所请求的数据条数变化,总数据传输时间不断增加,传输效率逐渐降低.Caisis系统第一步进行特征选择所请求的数据条数越小,就会有更少的数据以全部属性传输,也就是说,更多的数据会以更少的属性传输.这样,总的数据量变小,医疗数据的传输效率就增大.相反,随着Caisis系统第一步特征选择所请求的数据条数的增加,总的传输数据量变大,医疗数据的总传输时间也会变长.当Caisis系统第一步特征选择所请求的数据条数等于需要训练的总数时,全部数据的全部属性都需要传输给Caisis,这就使得改进模型降级为与原始模型具有相同的低效率模型系统.

实验结果表明,改进后的医疗数据交换协议具有更高的数据交换效率,并且医疗数据分析与预测系统进行特征选择时使用的数据量越小,医疗数据的交换效率越高;基于SVM的特征选择算法提高了医疗数据分析系统的效率,并提高了使用SVM算法进行预测分析的效率和准确度.

[1] 吴信东,叶明全,胡东辉,等.普适医疗信息管理与服务关键技术与挑战[J].计算机学报,2012,13(5):41-42

[2] CIECHOLEWSKI M.Ischemic heart disease detection using selected machine learning methods[J].International Journal of Computer Mathematics,2013,90(8):1734-1759.

[3] RAMIREZ J,GORRIZ J M,SALAS-GONZALEZ D,et al.Computer-aided diagnosis of alzheimer’s type dementia combining support vector machines and discriminant set of features[J].Information Sciences,2013,237:59-72.

[4] KUPUSINAC A,DOROSLOVACKI R,MALBASKI D,et al.A primary estimation of the cardiometabolic risk by using artificial neural networks[J].Computers in Biology and Medicine,2013,43(6):751-757.

[5] 俞汝龙.HL7组织与HL7标准简介[J].中国数字医学,2007,2(7):41-43.

[6] SANTOS C,PEDROS T,COSTA C,el al.On the use of openehr in a portable phr[C].Rome:Scitepress,2011:351-356.

[7] MAGLOGIANNIS I.Towards the adoption of open source and open access electronic health record systems[J].Journal of Healthcare Engineering,2012,3(1):141-161

[8] 张旭峰,姚志洪.基于openEHR的个人健康档案建模[J].计算机应用与软件,2013,30(5):71-72,111.

[9] 岳昆,王晓玲,周傲英.Web服务核心支撑技术[J].软件学报,2004,15(3):428-442.

[10] 何清林,杨森,徐泽同.基于元数据和Web Service中间件的分布式资源库集成[J].计算机工程与设计,2009,30(9):2202-2204.

[11] DONG WL,HU JH.Test method for BEPL-Based Web service composition based on data flow analysis[J].Journal of Software,2009,20(8):2102-2112

[12] KHUSHI M,CARPENTER JE,BALLEINE RL,et al.Electronic biorepository application system:web-based software to manage receipt,peer review,and approval of researcher applications to a biobank[J].Biopreserv Biobank,2012,10(1):37-44.

[13] 魏振.基于GPU的SVM算法在入侵检测系统中的应用[D].长春:吉林大学,2013.

[14] VAPNIK V.The nature of statistical learning theory[M].New York:Springer-Verlag,1995:65-85.

[15] VLADIMIR N VAPNIK.统计学习理论的本质[M].张学工,译.北京:清华大学出版社,2000:12-13.

[16] VAPNIK V,CHERVOKNENKIS A Y.The necessary and sufficient conditions for the uniform convergence of averages to their expected value[J].Teoriya Veroyatnostei I ee Primeneniya,1981,26(3):543-564.

[17] 邓乃扬,田英杰.数据挖掘中的新方法——支持向量机[M].北京:科学出版社,2004:164-190.

[18] 张浩然,韩正之.支持向量机算法及应用研究[D].上海:上海交通大学,2003.

[19] 席少霖.非线性最优化方法[M].北京:高等教育出版社,1992:470.

[20] BARZILAY O,BRAILOVSKY V L.On domain knowledge and feature selection using a support vector machine[J].Pattern Recognition Letters,1999,20:475-484.

A medical data analysis model based on SVM

TIAN Yu-chi,HU Liang

(College of Computer Science and Technology,Jilin University,Changchun 130012,China)

This paper proposes a medical data analysis and disease prediction model based on SVM classification algorithm and Web Service framework and the medical data communication protocol has been improved.This model includes the extraction of medical data from the electronic medical records database in a hospital and the transmission of medical data to a system to be analyzed by methods of data mining.A total of 1 695patients’electronic medical records derived from a third-grade class-A hospital in Changchun are used to examine the communication efficiency of the model.Improved medical data communication protocol is also tested by means of the variation of number of requested medical records and the control of the attributes.Experimental results show that the communication efficiency of the protocol in the system based on the model is much higher when the medical data go through a dimensionally reducing process like feature selection before transmission.

Web Service;SVM;electronic medical record;feature selection

TP 393 [学科代码] 520·3040 [

] A

(责任编辑:石绍庆)

1000-1832(2015)01-0077-06

10.16163/j.cnki.22-1123/n.2015.01.015

2014-02-24

国家自然科学基金资助项目(61103197,61073009);国家高技术研究发展计划项目(2011AA010101).

田宇驰(1989—),男,硕士研究生;通讯作者:胡亮(1968—),男,教授,博士研究生导师,主要从事分布式系统和网络与信息安全研究.

猜你喜欢
条数超平面特征选择
全纯曲线的例外超平面
涉及分担超平面的正规定则
以较低截断重数分担超平面的亚纯映射的唯一性问题
一种基于支持向量机中分离超平面求取的算法*
巧算金鱼条数
Kmeans 应用与特征选择
人民网、新华网、中国非公企业党建网两新党建报道条数排行
对多边形对角线条数的探究
联合互信息水下目标特征选择算法
基于特征选择聚类方法的稀疏TSK模糊系统