基于粒子群算法优化最小二乘支持向量机的电路故障诊断方法

程思嘉,张昌宏

(海军工程大学 信息安全系，武汉　430033)



基于粒子群算法优化最小二乘支持向量机的电路故障诊断方法

程思嘉,张昌宏

(海军工程大学 信息安全系，武汉430033)

摘要：针对数/模混合电路故障的特点，采用将粒子群算法与最小二乘支持向量机相结合的故障诊断方法，在保证诊断过程准确率的基础上，实现多类故障的快速诊断。在诊断过程中，支持向量机的参数寻优过程存在随意性、盲目性和效率低等问题，采用改进的粒子群算法优化支持向量机的参数，建立基于支持向量机的故障分类模型。实验结果表明，与其他方法相比，该方法提高了故障诊断的精度，具有明显的实用价值。

关键词：故障诊断；粒子群算法；最小二乘支持向量机

Citation format:CHENG Si-jia，ZHANG Chang-hong.Fault Diagnosis Method of Circuit Using LS-SVM and Improved PSO[J].Journal of Ordnance Equipment Engineering,2016(3):98-101.

近年来，数/模混合电路在信息安全设备中得到了广泛应用。电路的工作状态直接影响了设备的稳定性。因此，研究混合电路的故障诊断技术，提高设备的运行维护水平，具有重要的现实意义。由于混合电路的非线性特征、元器件的参数容差性、故障类型的多样性，使故障字典法、参数识别法、故障验证法等传统检测方法因其自身局限性已经不再适用。神经网络相比于传统方法，具有较强的非线性拟合能力和自学习能力，在诊断中具有良好的实时性和鲁棒性，但是也暴露了网络收敛速度慢，效果依赖样本选择等问题[1]。

支持向量机(Support Vector Machine，SVM)是建立VC维理论和结构风险最小化原理基础上的机器学习方法。它克服了神经网络的不足，而且在小样本、非线性及高维模式识别问题中具有结构简单、全局最优、泛化能力强等优势[2]。相对于SVM，最小二乘支持向量机(least squares support vector machine,LS-SVM)利用等式约束条件代替不等式约束条件，进一步简化了计算的复杂度，提高了运行效率[3,4]。本文首先研究LS-SVM的原理，使用改进的粒子群算法对LS-SVM的参数进行优化，然后根据电路故障诊断特点建立诊断LS-SVM模型，最后结合数/模混合电路故障的实例分析，验证了本文方法的可行性。

1LS-SVM算法

假设训练集D中共包括N个样本，并表示为D={(xi,yi)|i=1,2,…,N}，其中xi∈RN，yi∈{+1,-1}。利用非线性函数φ(x)将输入样本映射到高维特征空间中，这样就将原样本的线性不可分的问题转化为高维特征空间的线性可分的问题

其中:ω为权重;β是偏置项。

此分类问题可根据结构风险最小化原理表示为等式约束的优化问题。求解标准最小二乘支持向量机的最优化问题的目标函数为

其中:ω为权向量;εi≥0为误差向量;C为控制对超出误差的样本惩罚程度;β为偏置项;φ(xi)为核特征空间映射函数。

为求解上述优化问题，引入Lagrange乘子，构建方程

式中αi为Lagrange乘子。分别对ω,β,εi求偏导数，根据KKT条件，可以得到

消去εi和ω，可以得到最后的矩阵形式

其中ZT=[φ(x1),…,φ(xN)]。ZZT内积运算可以用满足Mercer条件的核函数K(xi,yi)替代，则最小二乘支持向量机分类决策函数为

核函数是LS-SVM重要部分，采用不同核函数，性能上会存在很大差异，大量实验结果表明，采用高斯径向基核函数可以获得良好的性能推广性[5-6]。因此本文LS-SVM采用高斯径向基核函数。由于径向基核函数中有一个参数σ，在表达式中有参数C，这两个参数的变化对运行结果有很大的影响，因此寻找到最优参数对于提高性能至关重要。

2基于粒子群算法的LS-SVM电路故障诊断技术

近年来，很多学者对SVM中的参数优化方法做了大量工作，如将粒子群算法、模拟退火和遗传算法应用到优化中[7-9]。针对数/模混合电路的特点，本节设计基于粒子群优化算法优化SVM建模。首先针对粒子群算法自身缺点进行改进，提高了粒子群算法准确性；其次利用改进后算法对LS-SVM的参数进行优化，提高其学习和泛化性能；最后结合二值分类器故障诊断策略，设计故障诊断方案。

2.1粒子群算法理论

粒子群算法(particle swarm optimization,PSO)与遗传算法等其他算法相同，都是基于种群的搜索算法，可以数学表达为：在一个D维空间内，S个粒子构成一个种群X=(x1,…,xr,…xS)，各粒子分别是一个潜在的解，对应D维空间上的某点，通过迭代运算寻找最优解。其中第i个粒子的位置为Xi=(xi1,xi2,…,xid)T，速度为Vi=(vi1,vi2,…,vid)T：第i个粒子所找的最优点为Pi=(pi1,pi2,…,pid)T,邻域内粒子所搜到最优点为Pg=(pg1,pg2,…,pgd)T，粒子根据下面两个公式更新速度与位置：

vid(t+1)=vid(t)+c1r1(t)pid(t)-xid(t))+

c2r2(t)(pid(t)-xid(t))

xid(t+1)=xid(t)+vid(t+1)

公司要注重提升对大数据的开发技能，不仅要处理好会计系统的财务信息，而且要注重对会计管理的规划，要全面提高管理人员对信息数据的采集分析能力，并且做出合理有效的预测。在专业的技术问题上，要积极需求专业公司的帮助，合理科学地加强对信息的整合，要根据实际情况从本质上将大数据的价值发挥出来，优化资源配置避免浪费。

学习粒子c1和c2为非负常数，r1(t) 和r2(t)在[0,1]内随机取值，体现出了算法的随机性。由于标准PSO算法具有快速收敛性，实际应用中易陷入局部最大，使得寻优停滞。为避免过早收敛和提高运算效率，J.Riget提出了一种保证种群多样性粒子群算法(Attractive and Repulsive Particle Swarm Optimizer,ARPSO)[10]。算法提出“吸引”和“扩散”两个概念，动态调整求解过程，公式如下：

vid(t+1)=vid(t)+Dir[c1r1(t)]pid(t)-xid(t))+

c2r2(t)(pid(t)-xid(t))

xid(t+1)=xid(t)+vid(t+1)

式中：|L|为搜索空间的最长半径，|S|为种群所含微粒个数。在算法运行过程中，Diversity(s)Dhigh时，Dir=1，从而种群中的粒子开始向整体最优位置靠拢，执行吸引操作。通过对速度的动态调节，在达到一定精度后，继续寻找最优解，确保最后结果最优。

2.2基于ARPSO优化LS-SVM的故障诊断模型

利用上文所提到的改进算法对LS-SVM参数σ和惩罚系数C进行优化。假设每个粒子Xi可用参数集合(C,σ)表示。在二维目标搜索空间中，N个粒子构成的集合进行寻优，按照调整公式调整自己位置与速度，完成迭代次数，输出最佳(C,σ)，流程如图1所示。

图1　算法优化LS-SVM参数流程

2.3基于ARPSO优化LS-SVM的二值分类诊断方法

本节进一步解决适用于数/模混合电路故障诊断的二值分类器的设计问题。为了确保电路正常运行，这就要求不仅要诊断出整个电路有无故障，同时还要诊断出电路中的故障信息，这就构成了多值分类问题。多值分类问题是目前SVM研究领域的一个重要方向,源于二类分类问题，通常采用多个两类SVM串联进行组合分类[11-14]。

根据上一部分LS-SVM构造方法，构建一个N类故障分类器。当构建第i个分类器时，属于该类LS-SVM的故障训练样本作为一类，类别标号由原来的i改为1，将其他故障的所有训练样本作为一类，标记为-1。诊断策略如图2所示。

图2　多故障分类流程

根据所设计的多故障分类算法，结合建模方法，采用ARPSO优化LS-SVM的数/模混合电路故障诊断方法，步骤如下：

步骤1：对样本数据进行小波变换，提取特征参数，构建特征样本；

步骤3：按照上文建模方法，建立数/模混合电路故障诊断模型，为每一种故障类型建立分类器；

步骤4：装订LS-SVM的相关参数；

步骤5：输入未知故障的特征参数，根据输出判断故障所属类型。

3故障诊断实例

如图3所示的正弦波信号发生器电路，设电路中电阻和电容的容差分别为其标值的5% 和10% 。用PSPICE 软件对其进行仿真，通过灵敏度分析，发现元件R1， R2， C1， C2 的变化对电路输出响应的影响最大。

图3　正弦波信号发生器

设置待测电路共有12种故障状态，其中硬故障8种，软故障4种，以及电路的正常工作状态Normal(故障代码F0)，则电路共有13种状态模式，如表1所示。其中符号“↑”表示元件参数值偏离标值的20%。

表1　故障模式设定

分别对每种模式下的电路进行200次蒙特卡洛分析，提取电路响应信号，随机抽取50次作为训练样本，其余作为测试样本。使用改进的粒子群算法对LS-SVM进行参数寻优，种群规模设为20，C，σ的初始范围设定为(10-3，10+3)，(10-4，10+2)，最大进化迭代数为30，定义Dlow=5×10-3,Dhigh=0.25。本文将神经网络方法、标准PSO优化LS-SVM方法与本文算法演算得到的故障诊断率进行比较说明，其中标准PSO方法所用参数与本文方法相同。

通过表2可以得知，采用本文方法与PSO优化方法计算得到的故障诊断率要明显高于采用神经网络计算得到的故障诊断率，这说明在训练样本有限的条件下，支持向量机方法具有更强的泛化能力，体现出更好的分类性能。将粒子群算法应用到LS-SVM的两个参数优化中，通过实验发现标准粒子群算法与本文提出的改进粒子群算法都能较快的收敛，并达到较高的分类正确率，并且本文所采用的改进方法取得了更好的效果。

表2　故障诊断率比较　%

4结论

本文根据数/模混合电路的特点，研究基于LS-SVM的电路故障诊断方法。首先使用ARPSO对其参数进行优化,然后串联组合多个两类LS-SVM进行分类诊断。实验表明，在小样本情况下，支持向量机方法要优于神经网络方法，应用改进的粒子群算法进行参数优化，提高了故障诊断正确率。下一步的工作将是对故障特征的提取方法进行研究，提高对故障状态的分辨率。

参考文献：

[1]AMINIAN F,AMINIAN M.Analog fault diagnosis of actual circuits using neural networks[J].IEEE Transaction on Instrumentation and Measurement,2002,51(3):544-550.

[2]张学工.关于统计理论与支持向量机[J].自动化学报,2000,26(1)：32-41.

[3]焦鹏,王新政,谢鹏.基于SVM的模拟电路故障诊断及参数优化方法[J].计算机测量与控制,2013,21(8)：2039-2043.

[4]CORTES,VAPNIK V.Support Vector Network[J].Machine Learning,1995(20):273-297.

[5]HSU C W,LIN C J.A comparison of methods for multiclass support vector machines[J].IEEE Transactions on Neural Networks,2002,13(2):415-425.

[6]KEERTHI S S,LIN C J.Asymptotic behaviors of support vector machines Gaussian kernel[J].Neural Computation,2003,15(10):1722-1731.

[7]刘爱军,杨育，李斐,等.混沌模拟退火粒子群优化算法研究及应用[J].浙江大学学报,2013,47(10):1722-1731.

[8]秦庆强,张晓安,李艾华.基于GA-SVM的数模混合电路故障诊断研究[J].计算机工程与设计,2012,33(10):3984-3990.

[9]陈涛,洪增林,邓方安.基于优化的邻域粗糙集的混合基因选择算法[J].计算机科学,2014,41(10):291-294.

[10]KENNEDY J,EBERHART R C.Particle swarm optimization[C]//IEEE International Conference on Neural Networks.Perth,Australia:IEEE,1995:1942-1948.

[11]王浩天,单甘霖,段修生.基于多模型的模拟电路软故障诊断[J].火力与指挥控制,2014,39(11):119-123.

[12]郭阳明,冉从宝,姬崎禹.基于组合优化BP神经网络的模拟故障诊断[J].西北工业大学学报,2013,31(1):44-48.

[13]王旭婧,陈长兴,王明芳,等.基于支持向量机的模拟电路故障诊断[J].计算机工程与设计,2014,35(10):3584-3588.

[14]WANG T H,THOMAS J B.Volterra mapping based be-havioral modeling of nonlinear circuits and systems for high frequencies[J].IEEE Transactions on Microwave Theory and Techniques,2012,51(5):1433-1440.

(责任编辑杨继森)

Fault Diagnosis Method of Circuit Using LS-SVM and Improved PSO

CHENG Si-jia，ZHANG Chang-hong

(Department of Information Security, Navy University of Engineering, Wuhan 430033, China)

Abstract:In allusion to the features of hybrid circuit fault, this text adopted a diagnostic method combined least squares support vector machine with particle swarm optimization. The method completes the diagnostic test frequently on the base of accuracy rate. Support vector machine’s parameters overcomes the randomness, blindness and inefficiency of the searching process by using modified particle swam optimization. The fault classification model based on support vector machine was established. Experimental results show the method raises the accuracy rate of fault diagnosis compared to other methods and has excellent practical value.

Key words:fault diagnosis; particle swarm; least square support vector machine

文章编号：1006-0707(2016)03-0098-04

中图分类号：TP309.2

文献标识码：A

doi:10.11809/scbgxb2016.03.024

作者简介：程思嘉(1992—)，男，硕士，主要从事密码装备保障研究。

基金项目：全军军事类研究生课题(2013JY430)

收稿日期：2015-08-31；修回日期：2015-09-15

本文引用格式：程思嘉,张昌宏.基于粒子群算法优化最小二乘支持向量机的电路故障诊断方法[J].兵器装备工程学报，2016(3):98-101.

【信息科学与控制工程】