基于OBLPSO-LSSVM的一氧化碳浓度检测

2013-07-20 02:34张愉童敏明戴桂平
计算机工程与应用 2013年24期
关键词:向量粒子样本

张愉,童敏明,戴桂平

1.苏州市职业大学电子信息工程学院,江苏苏州 215104

2.中国矿业大学信电学院,江苏徐州 221008

基于OBLPSO-LSSVM的一氧化碳浓度检测

张愉1,童敏明2,戴桂平1

1.苏州市职业大学电子信息工程学院,江苏苏州 215104

2.中国矿业大学信电学院,江苏徐州 221008

1 引言

一氧化碳(CO)是一种有毒的气体,是引起矿井瓦斯爆炸的主要气体,近年来,我国矿井瓦斯爆炸事故越来越频繁,伤亡十分严重,CO含量检测可以对矿井爆炸事故进行预警,因此准确检测CO浓度对保证矿井人员的安全具有十分重要的意义[1]。

传感器具有方便、性价比高、结构简单、便携等优点,广泛应用于矿井CO、CH4浓度检测[2]。由于热催化传感器对CO有敏感作用,而电化学气体传感器对CH4有敏感性,出现所谓的“交叉敏感”特性,到目前为止,还没有某种传感器仅对某种气体敏感,对其他气体不敏感,因此单一传感器的CO检测精度低,检测结果可靠性不高[3-4]。为了解决该难题,基于信息融合理论,Lange E将多个传感器组合在一起,形成一个传感器阵列,然后采用数据融合技术对传感器阵列输出信号进行融合,实现对特定气体浓度检测[5]。由于CO浓度检测系统的输入与输出间是一种非线性变化关系,当前主要采用神经网络、支持向量机等建立CO浓度检测模型[6-8]。然而神经网络基于经验风险最小化原则,训练样本不足时,易出现“过拟合”、泛化能力差等不足。最小二乘支持向量机(Least Squares Support Vector Machine,LSSVM)较好地克服了神经网络过拟合和标准支持向量机训练耗时长的缺陷,泛化能力优异[9]。在CO浓度检测过程中,CO浓度检测精度与LSSVM参数选择相关,当前主要有遗传算法、粒子群算法、蚁群算法等对LSSVM参数进行优化,其中粒子群算法(PSO)由于原理简单、可调参数少、易于实现等优点,在LSSVM参数优化中应用最为广泛[10-11]。然而传统PSO算法存在“早熟”收敛和易陷入局部最优等缺陷,难以获得最优的LSSVM参数。为了克服这一缺点,学者提出许多改进的PSO算法,算法的性能有较大的提高,但仍然不能克服粒子群算法的早熟和粒子多样性下降过快的问题,对CO浓度检测精度产生不利影响[12]。

2005年,Tizhoosh等提出了反向学习(Opposition-Based Learning,OBL)的概念,他认为智能算法均以随机猜测的值作为初始群体,然后逐代向最优解靠近并最终找到最优解,随机猜测值对算法的影响很大,如果随机猜测值离最优解很近,算法收敛速度快,反之,收敛速度慢,因此若在搜索的过程中,同时搜索当前解和反向解,选择较好的解作为猜测解,会大大提高算法的效率[13]。基于此,针对PSO算法的不足,引入“反向学习机制”产生一种反向学习粒子群优化(OBLPSO)算法,并采用OBLPSO优化LSSVM参数,最后根据最优参数的LSSVM建立CO浓度检测模型(OBLPSO-LSSVM),并通过仿真实验对模型性能进行测试。

2 LSSVM和OBLPSO算法

2.1 最小二乘支持向量机

对于训练样本集{(xi,yi)},LSSVM采用非线性映射函数Φ()将数据映射到高维空间进行回归,即

式中,w为权值向量,b为偏置量[14]。

为了寻找系数w和b,引入松弛变量,则式(1)问题求解的LSSVM回归模型为:

式中,γ为正则化参数;ei为回归误差。

引入拉格朗日乘子将式(2)变成对偶优化问题。

式中,αi为拉格朗日乘子。

根据Mercer条件,核函数定义为K(xi,xj)=φ(xi)Tφ(xj),最后,求得LSSVM回归模型为:

相对于其他核函数,径向基核函数参数少,且性能更好。本文选择径向基核函数作为LSSVM的核函数,最后,LSSVM回归函数为:

式中,σ为径向基核函数的宽度参数。

从LSSVM建模过程可知,参数γ和σ合理选取将会对SVM模型的泛化能力和学习效率产生很大影响,将LSSVM模型的参数选取视为参数的组合优化,定义目标函数为:

式中,yi为第i个已知样本的输出值;yˆi为第i个样本的模型输出值。

2.2 反向学习机制的粒子群优化算法

2.2.1 反向学习相关概念

反向学习算法基本思想是同时考虑变量的当前估计值与反向估计值,通过比较获得当前的最优值。

定义1x∈[a,b]中的任意实数,定义xˆ=a+b-x为x的反向点。

2.2.2 OBLPSO算法

式中,wmax为权重系数最大值;wmin为权重系数最小值。

对于种群的某个粒子来说,随着粒子自身的不断进化与成长,对信息需求逐渐增大,仅依赖于pi和pg这两个“极值”已经不能满足粒子对于信息的需求,此时应当增强种群中其他粒子探索新区域的能力。

随机粒子每次迭代过程中,在跟踪pi,pg的前提下还要跟踪两个新的极值,第一个就是粒子本身的最差解ppi;另一个极值是整个种群目前出现的最差解ppg,因此本文在迭代机制中引入全局最差ppg的反向粒子PPg作为新的学习因子,具体迭代机制如下:

式中,m1,m2为[0,1]之间的随机数,且m1+m2=1,p为算法中转入反向学习算法的概率,定义如下:

式中,pmax,pmin为概率p的范围;t为当前的迭代次数。

在OBLPSO算法中,不仅增加了粒子多样性,避免算法陷入局部最优问题,同时也缩小了搜索空间,提高了粒子搜索速率,避免了过度学习现象的出现。

3 OBLPSO-LSSVM的CO浓度检测模型

3.1 CO浓度检测原理

由于CO和CH4均对电化学CO传感器和热催化CH4传感器的输出有影响,则设在t时刻、井下大气中CO和CH4浓度分别为x1(t)、x2(t),y1(t)、y2(t)为传感器阵列的输出,则有:

式中,f1()、f2()为传感器的输入与输出之间映射函数。

式(13)可简写为:

根据逆映射定理,式(14)可表示为:

根据式(13)可知,通过选择合适的融合算法对传感器输出信号y1(t)和y2(t)进行挖掘,得到x1(t)的估计值xˆ1(t)(即CO浓度的估计值),消除CH4气体对CO传感器输出的影响,实现CO浓度精确检测的目的[15]。

利用LSSVM能够逼近任意非线性函数关系能力,以及OBLPSO算法的全局寻优能力,采用OBLPSO-LSSVM对y1(t)和y2(t)进行融合,提高CO浓度检测精度,那么OBLPSO-LSSVM的CO浓度检测数学模型为:

式中,flssvm为LSSVM回归函数,parameters为LSSVM的参数。

3.2 OBLPSO-LSSVM的CO浓度检测建模步骤

(1)收集数据样本,并进行预处理,构建LSSVM的学习样本与测试样本。

(2)设置LSSVM参数范围以及OBLPSO算法参数值,并产生K个可行解,每一个可行解由γ,σ组成。

(3)对可行解进行编码,得到γ,σ的值,将训练样本输入到LSSVM中进行学习,根据γ,σ建立CO浓度检测模型。

(4)利用CO浓度检测模型对测试样本进行检测,得到每一组参数(γ,σ)相对应的CO浓度检测精度,并将其作为粒子的适应度值。

(5)更优粒子个体的最优位置pi和群体的全局最优位置pg。

(6)随机产生[0,1]之间的一个值,通过式(12)计算概率p,如果该随机值大于p则转步骤(7);否则进入反向学习过程,具体为:

①通过基于交叉因子的反向学习机制计算该粒子的反向点。

②计算粒子i适应度值和基于交叉因子的反向粒子适应度值,比较反向粒子的适应度值是否优于粒子i的适应度值,选取最优粒子代替X,否则,继续采用点X。

(7)根据式(7),式(8)更新每个粒子的位置和速度。

(8)如果迭代次数大于最大迭代数,则表示算法结束,并计算输出最优解对应的LSSVM参数(γ、σ),否则跳到步骤(3)继续执行。

(9)LSSVM根据最优γ和σ值对训练集重新学习,建立CO浓度检测模型。

4 仿真实验

4.1 数据来源

由配气系统配置一定浓度的CO、CH4混合气体,使用传感器阵列对混合气体进行检测,得到50×2组检测输出信号,将它们作为输入向量,被检测CO浓度作为输出向量。将50组数据分为两部分:随机选择40组数据作为训练样本,建立基于OBLPSO-LSSVM的CO浓度检测模型,其他10组数据作为测试样本,用于检验模型的性能。仿真测试在CPU Intel 2.8 GHz,RAM 2 GB,Windows XP,Matlab 2012平台上编程实现。

4.2 数据预处理

为了避免取值范围大的数据淹没了取值范围小的数据;且因LSSVM核函数的值依赖于特征向量的内积,数据过大会对训练过程产生不利影响,为此,在数据输入到LSSVM之前对其进行归一化处理,归一化公式为:

式中,xi、yi分别表示第i个输入与输出的值,xmax、ymax分别表示输入和输出的最大值,xmin、ymin分别表示输入和输出的最小值,x′i和y′i表示归一化后的输入和输出值。

4.3 对比模型及评价标准

采用遗传算法优化LSSVM(GA-LSSVM)、粒子群算法优化LSSVM(PSO-LSSVM)进行对比实验,评价标准为均方根误差(RMSE)和平均相对误差(MAPE)。遗传算法的参数设置为:交叉概率pc=0.8,变异概率pm=0.1;OBLPSO算法的参数设置为:种群规模N=20,最大进化代数T=500,c1=c2=1.5,c3=1.0,PSO算法参数与OBLPSO算法相同。

4.4 结果与分析

4.4.1 CO浓度拟合结果对比

将训练样本输入到OBLPSO-LSSVM、GA-LSSVM、PSO-LSSVM中进行训练,采用OBLPSO、PSO、GA对LSSVM参数进行优化,得到的最优参数见表1,然后采用表1中的参数建立BOLPSO-LSSVM、GA-LSSVM、PSO-LSSVM的CO浓度检测模型,并对训练样本的输出值进行拟合,得到的结果如图1所示。

表1 各算法选择的最优LSSVM参数

图1 各模型对训练样本的拟合结果

从图1可知,OBLPSO-LSSVM的拟合值与实际的CO浓度值非常接近,拟合效果明显要优于GA-LSSVM、PSOLSSVM,对比结果表明,OBLPSO有效提高了CO浓度的拟合精度。

4.4.2CO浓度检测结果对比

由于模型性能好坏主要由泛化能力评价,因此采用GA-LSSVM、PSO-LSSVM和OBLPSO-LSSVM对CO浓度测试样本进行检测,各模型的检测结果如图2所示。

图2 各模型对测试样本的检测结果

从图2可知,相对于GA-LSSVM、PSO-LSSVM,OBLPSOLSSVM的检测结果与实际CO浓度的输出值比较接近,两者之间的偏差较小,而GA-LSSVM和PSO-LSSVM的检测偏差较大,且检测结果不稳定,有几个点偏差比较大,对比结果表明,采用OBLPSO算法优化LSSVM,克服了局部极小的束缚,能够有效地进行全局寻优,提高了CO浓度检测精度,更加精确刻画了CO检测系统的输入输出非线性关系,检测结果更加令人满意。

4.4.3 模型综合性能评价

计算各种模型对训练样本、测试样本拟合和检测的RMSE、MAPE值,结果见表2。从表2可知,OBLPSO-LSSVM无论是在拟合过程,还是预测过程中都表现出了良好的性能,具有较高的精度,这说明本文所建立的模型是科学可信的,是解决CO浓度检测问题的有效途径。对表2的结果进行综合分析,可以得到如下结论:

(1)CO浓度检测问题具有小样本、时变性、非线性等变化特点,很难给出一个精确的数学模型,LSSVM建模时综合考虑模型复杂性和学习能力,确保良好的泛化能力,可以建立一种精度较高的CO浓度检测模型。

(2)参数选择对LSSVM的预测精度产生直接影响,本文通过采用QPLPSO对LSSVM参数进行寻优,构建的CO浓度检测模型可以更加有效地消除“交叉敏感”特性对CO浓度检测性能的不利影响,能够更加准确检测到CO浓度变化趋势,获得了令人满意的效果,从而为实时监测CO浓度变化提供了一种有效的方法。

(3)OBLPSO算法在次迭代过程中追踪全局最优解的同时,追踪全局最差粒子的反向粒子,收敛速度快,跳出局部最优能力强,较好地克服了GA、PSO存在的局部最优等缺陷,可以找到比GA、PSO算法更优的LSSVM参数,建立的CO浓度检测模型更加准确刻画了CO检测系统输入输出之间的非线性关系,获得了更优的CO浓度检测效果。

表2 几种检测模型的综合性能对比

5 结束语

针对CO浓度检测的LSSVM参数优化问题,采用OBLPSO优化LSSVM参数,建立了一种OBLPSO-LSSVM的CO浓度检测模型。结果表明,OBLPSO-LSSVM提高了CO浓度检测精度,可以为环境监测的安全可靠性提供保障。

[1]国家安全生产监督管理局,国家煤矿安全监察局.煤矿安全规程[M].北京:煤炭工业出版社,2006.

[2]胡茜,葛思擘,王伊卿,等.电化学气敏传感器的原理及其应用[J].仪表技术与传感器,2007(5):77-78.

[3]宇峰,黄行九,刘伟,等.电化学CO传感器及其敏感特性[J].传感器技术,2004,23(7):14-17.

[4]马学童,马奎,王磊.多组份气体定量检测研究[J].仪器仪表学报,2001(z1):58-59.

[5]童敏明,叶小婷,王都霞.基于信息融合的矿井一氧化碳检测方法的研究[J].计量学报,2007,28(4):388-390.

[6]叶小婷,汤劫.基于BP神经网络的矿井一氧化碳检测方法研究[J].仪表技术,2007(10):40-42.

[7]高峰,董海鹰,胡彦奎.基于BP神经网络的传感器交叉敏感性抑制[J].传感器技术,2005,24(2):22-26.

[8]黄为勇,童敏明,任子晖.矿井CO浓度的支持向量机数据融合检测方法[J].计算机工程与应用,2008,44(36):240-243.

[9]颜世平,彭敏放,雷将锋,等.基于Chebyshev网络和最佳逼近理论的CO_2浓度检测[J].仪表技术与传感器,2011(6):107-110.

[10]杜志勇,王鲜芳.基于PSO和LSSVM温度控制器的设计[J].计算机工程与应用,2009,45(27):75-77.

[11]孙兰兰,宋雯斐.CPSO和LSSVM融合的网络入侵检测[J].计算机工程与应用,2013,49(9):90-93.

[12]胥小波,郑康锋.新的混沌粒子群优化算法[J].通信学报,2012,33(1):24-30.

[13]Tizhoosh H R.Opposition-based learning:a new scheme for machine intelligence[C]//Proceedings of Conference on Computing Intelligence,Modeling Control and Automation,Vienna,Austria,2005:695-701.

[14]吴景龙,杨淑霞,刘承水.基于遗传算法优化参数的支持向量机短期负荷预测方法[J].中南大学学报:自然科学版,2009,40(1).

[15]常炳国.基于RBF神经网络的混合气体智能检测系统研究[J].湖南大学学报:自然科学版,2009,36(7):82-85.

ZHANG Yu1,TONG Minming2,DAI Guiping1

1.School of Electronic&Information Engineering,Suzhou Vocational University,Suzhou,Jiangsu 215104,China
2.School of Information&Electric Engineering,China University of Mining and Technology,Xuzhou,Jiangsu 221008,China

In order to improve the detection accuracy of CO concentration,this paper proposes a CO concentration detection model based Opposition-Based Learning Particle Swarm Optimization algorithm and Least Squares Support Vector Machine(OBLPSO-LSSVM).The samples of CO concentration detection are composed,and then the samples are input to LSSVM to train,and the optimal parameters of LSSVM are obtained by Particle Swarm Optimization algorithm in which opposition-based learning mechanism is introduced and the CO concentration detection model is established.The simulation experiment is carried out to test the performance of model in MATLAB 2012.The results show that the proposed model can describe the nonlinear relationship between the input and output of CO detection system and has improved the detection accuracy of CO concentration,and it has good practical application value.

CO concentration;Particle Swarm Optimization(PSO)algorithm;opposition-based learning;Least Squares Support Vector Machine(LSSVM);gas detection

为了提高CO浓度检测精度,提出一种反向学习机制粒子群算法(OBLPSO)优化最小二乘支持向量机(LSSVM)的CO浓度检测模型(OBLPSO-LSSVM)。构建CO浓度检测的学习样本,输入到LSSVM中训练,通过引入反向学习机制的粒子群算法找到LSSVM的最优参数建立CO浓度检测模型,在Matlab 2012平台对模型性能进行仿真测试。结果表明,OBLPSO-LSSVM可以精确描述CO检测系统的输入与输出间的非线性变化关系,提高了CO浓度检测精度,具有一定的实际应用价值。

一氧化碳浓度;粒子群优化算法;反向学习;最小二乘支持向量机;气体检测

A

TP183

10.3778/j.issn.1002-8331.1307-0403

ZHANG Yu,TONG Minming,DAI Guiping.CO concentration detection based on OBLPSO-LSSVM.Computer Engineering and Applications,2013,49(24):249-252.

国家自然科学基金国际合作重大项目(No.60910005);苏州市2013年度工业科技指导性计划项目(No.SGZ2013136);苏州市职业大学成果创新基金资助项目(No.2012SZDCC05)。

张愉(1979—),女,讲师,主要研究领域:人工神经网络、模式识别和智能传感器;童敏明(1956—),男,博士,教授,博士生导师,主要研究领域:瓦斯及安全监测技术、传感器及检测技术;戴桂平(1982—),女,讲师,主要研究领域:模式识别和信号处理。

2013-07-30

2013-09-16

1002-8331(2013)24-0249-04

猜你喜欢
向量粒子样本
向量的分解
用样本估计总体复习点拨
聚焦“向量与三角”创新题
基于粒子群优化的桥式起重机模糊PID控制
推动医改的“直销样本”
基于粒子群优化极点配置的空燃比输出反馈控制
随机微分方程的样本Lyapunov二次型估计
向量垂直在解析几何中的应用
村企共赢的样本
向量五种“变身” 玩转圆锥曲线