基于入侵性杂草优化算法的有噪独立分量分析方法

2014-09-22 08:30孔祥翠王微微陈静静
东北石油大学学报 2014年2期
关键词:负熵因数高斯

孔祥翠,王微微,陈静静,陈 宇

(中国石油大学(华东)信息与控制工程学院,山东 青岛 266580)

0 引言

独立分量分析(ICA)[1-2]作为有效的盲源分离[3]技术,是信号处理领域的热点,在无线通讯、生物医学[4]、图像语音[5]、流型识别[6]、故障诊断[7]等领域应用广泛.入侵性杂草优化(IWO)[8-10]算法是由 Mehrabian和Lucas受自然界杂草入侵农作物启示提出来的一种新的优化智能算法.IWO算法简单,易于实现,最大的优点是不需要遗传操作算子,就可以简单且有效地收敛到问题的全局最优解.

20世纪90年代,ICA理论得到较快发展[11-13],最具有代表性的是Fast ICA算法,稳定、快速的算法特性使得ICA技术实用化.此类算法大都假设无噪声模型或把噪声看作一个独立信号,但在实际环境中,观测信号往往掺杂各种各样的噪声,导致分离性能下降.Zhang H、Shi Z等利用信号的时序特性分离含噪信号,可以减小噪声的影响,但信号时序特性不明显时,分离效果较差[14-15].Hyvarinen A利用信号的非高斯特性,采用去偏技术对有噪ICA算法进行修正,减少由噪声引起的偏差,适用性强[16].这些方法多采用梯度算法和牛顿法求解最优混合矩阵,容易陷入局部最优,很难获得理想的分离结果.

文中算法以所有分离信号负熵和为目标函数,选用高斯密度函数估计负熵,简化目标函数,保证稳定性,引入偏差去除技术对负熵进行去偏处理,以减少由噪声引起的偏差,采用具有全局寻优性能的IWO算法估计混合矩阵;然后采用SVD-ICA算法得到源信号的无噪估计.

1 基于IWO的有噪ICA算法

1.1 有噪ICA模型

线性瞬时混合有噪ICA模型为

式中:x为观测信号,x=[x1(t),x2(t),…,xM(t)]T;s为源信号,s=[s1(t),s2(t),…,sN(t)]T;t为时间;A为M×N维的混合矩阵,M=N;n为加性噪声.

有噪ICA模型通常假设:(1)噪声与源信号相互独立;(2)噪声n是高斯噪声;(3)噪声协方差矩阵Σ已知.

为了增强算法稳定性,需要对观测信号进行鲁棒白化处理[16],得到白化数据:

因为独立分量s与噪声n相互独立,可得

1.2 采用IWO算法优化的有噪ICA目标函数

入侵性杂草优化(Invasive Weed Optimization,IWO)算法模仿杂草入侵的种子空间扩散、占地生长、繁殖和竞争淘汰的基本过程,稳定性和自适应性较强.在IWO中,杂草表示问题产生的随机可行解,种子是杂草的后代,种群是所有杂草的集合.算法中产生的子代按正态分布随机分布于双亲周围,种子在进化过程中早期和中期以较大步长分布于杂草空间,保持种群的多样性,经过若干次迭代后,算法的种群个体竞争淘汰,适者生存.IWO算法具有良好的全局寻优性能,采用该算法对线性瞬时混合有噪ICA模型进行寻优.

根据中心极限定理[2]可知,信号越独立,非高斯性越强.通常用负熵衡量信号的非高斯性,选用无噪分离信号的负熵作为目标函数:

设z为任意非高斯随机变量,n为方差为σ2的高斯噪声变量[16],定义高斯函数φ,则对任意常数c>σ2,有

式中:ci与一一对应,di与+一一对应,di为第i个分量+对应下标d 的值.

从而得到一个较为稳定的目标函数:

建立目标函数后,对目标函数进行优化.Fast ICA和Fast NoisyICA算法采用固定点算法对分离矩阵寻优,易陷入局部最优.文中采用具有全局寻优性能的IWO算法对分离矩阵W 寻优,并通过式(7)得到分离信号y.由于y中含有高斯噪声,采用单路SVD-ICA方法[17]分离出无噪源信号估计基于IWO的有噪独立分量分析算法流程见图1.

2 仿真实验

2.1 初始设置

以Mehrabian A R等[8]提出的参数作为变量初始值,应用2个亚高斯信号s1、s2和1个超高斯信号s3,分别对Fast ICA算法[13]、Fast NoisyICA算法[16]和文中算法进行仿真实验.IWO变量初始值见表1.

仿真测试3路源信号均值为0,方差为1,采样点数为8 000点;线性瞬时混合矩阵A为随机生成:

表1 IWO变量初始值Table 1 IWO variables and the corresponding initial values

3路源信号从上至下分别为s1,s2和s3(见图2).表达式分别为:s1=sin(2π×0.003t)、s2=sin(2π×0.01t)×sin(2π×0.000 7t)和s3=((rem(t/20,22)-11)/9)5,其中rem为求余运算.对源信号按式(1)进行混合,并且添加噪声,得到有噪混合信号,信噪比为10dB(见图3).

2.2 算法性能分析

Fast ICA算法、Fast NoisyICA算法和文中算法对信噪比为10dB的有噪混合信号分离结果见图4.由图4(a)和图4(b)可以看出,Fast ICA和Fast NoisyICA算法对有噪混合信号的分离效果较差,分离信号中含有较多噪声.由图4(c)可看出,文中算法分离的信号与源信号除了在顺序和幅度上不同外,波形基本一致,表明文中算法对源信号的估计较为准确.这是因为文中算法在估计负熵时,以高斯密度函数作为非线性函数,固定负熵中的不稳定项,增强算法的鲁棒性,同时采用具有全局寻优性能的IWO算法,可较好地消除噪声对源信号的影响.

采用独立分量分析算法中常用的评价指标PI[1]衡量不同算法对有噪信号的分离性能:

式中:M为源信号个数;pij为位于矩阵P=W(C-Σ)-1/2A第i行第j列的元素.PI≥0,PI值越小,表示分离信号与源信号越相似,算法分离噪声信号的性能越好.

采用相似因数[18]作为检验指标:

式中:T为采样点数;β为相似因数,β越接近于1,表示分离效果越好,即分离信号与源信号的近似程度越高.

在信噪比为8~16dB时,不同算法对3路有噪信号分离性能见图5(a).文中算法采用去偏处理,引入IWO算法寻优,减小由噪声引起的影响,在较低信噪比下,文中算法的PI明显小于其他2种算法的;在较高信噪比下,文中算法估计效果也优于其他2中算法的,文中算法同时消除目标函数中的不稳定项,使波动小、稳定性好.文中算法对混合矩阵的估计较为准确,对源信号波形恢复更好,由图5(b)和图5(c)可以看出:分离的前2路信号的相似因数要明显大于其他2两种算法的,并且比较接近于1;由图5(d)可以看出:文中算法在较低信噪比下分离的第三路信号的相似因数大于其他2两种算法的,随着信噪比增加,相似因数逐渐增大.

为确保算法的稳定性和有效性,分别采用Fast ICA算法、Fast NoisyICA算法和文中算法进行30次仿真实验,计算3种算法性能指标,比较最大、最小和平均值(见表2).由表2可以看出,文中算法的最大、最小和平均值明显小于其他2种算法的,表明文中算法可以较精确地估计混合矩阵,分离精度较高.3种算法的相似因数见表3.由表3可以看出:文中算法的相似因数高于Fast ICA算法和Fast NoisyICA算法的,特别是第1路和第2路分离信号的相似因数明显高于其他2种算法的,说明文中算法对源信号的估计更为准确.

表2 3种算法的PITable 2 PI values of three algorithms

表3 3种算法的相似因数Table 3 Similarities of three algorithms

3 结束语

提出基于IWO的有噪ICA算法,建立以分离信号负熵和为目标函数的优化模型,对目标函数去偏并修正不稳定项,保证目标函数的准确性和稳定性,采用的IWO寻优算法确保获得全局最优分离矩阵.仿真实验结果表明:文中算法有效地提高含噪声情况下独立分量分析算法的性能,与Fast ICA算法和Fast NoisyICA算法相比,该算法对混合矩阵估计更为精确,分离信号更接近源信号,是解决有噪独立分量分析问题的一种有效算法.

(References):

[1]Hyvärinen A,Karhunen J,Oja E.独立成分分析[M].周宗潭,董国华,徐昕,等译.北京:电子工业出版社,2007.Hyvärinen A,Karhunen J,Oja E.Independent components analysis[M].Zhou Zongtan,Dong Guohua,Xu Xin,et al,trans.Beijing:Publishing House of Electronics Industry,2007.

[2]杨福生,洪波.独立分量分析的原理与应用[M].北京:清华大学出版社,2006.Yang Fusheng,Hong Bo.The theory and application of independence component analysis[M].Beijing:Tsinghua University Press,2006.

[3]张发启,张斌,张喜斌.盲信号处理及应用[M].西安:西安电子科技大学出版社,2006.Zhang Qifa,Zhang Bin,Zhang Xibin.Operation and application of blind signal[M].Xi'an:Xi'an University of Electronic Science and Technology Press,2006.

[4]LeVan P,Tyvaert L,Moeller F.Independent component analysis reveals dynamic ictal BOLD responses in EEG-fMRI data from focal epilepsy patients[J].Neuroimage,2010,49(1):366.

[5]李大辉,李长荣,杨阳.一种改进的瞬时混合语音信号盲分离算法[J].大庆石油学院学报,2007,31(4):80-83.Li Dahui,Li Changrong,Yang Yang.An improved algorithm for blind signal separation of instantaneous speech mixtures[J].Journal of Daqing Petroleum Institute,2007,31(4):80-83.

[6]周云龙,顾杨杨.基于独立分量分析和RBF神经网络的气液两相流流型识别[J].化工学报,2012,63(3):796-799.Zhou Yunlong,Gu Yangyang.Flow regime identification of gas/liquid two-phase flow based ICA and RBF neural networks[J].Ciesc Journal,2012,63(3):796-799.

[7]孟宗,梁智.基于EMMD和BSS的单通道旋转机械故障诊断方法[J].仪器仪表学报,2013,34(3):635-642.Meng Zong,Liang Zhi.Fault diagnosis method for single channel rotating machinery based on EMMD and BSS[J].Chinese Journal of Scientific Instrument,2013,34(3):635-642.

[8]Mehrabian A R,Lucas C.A novel numerical optimization algorithm inspired from weed colonization [J].Ecological Informatics,2006,1(4):355-366.

[9]张氢,陈丹丹,秦仙蓉,等.杂草算法收敛性分析及其在工程中的应用[J].同济大学学报:自然科学版,2010,38(11):1689-1693.Zhang Qing,Chen Dandan,Qin Xianrong,et al.Convergence analysis optimization algorithm in engineering of invasive weed and its application[J].Journal of Tongji University:Natural Science Edition,2010,38(11):1689-1693.

[10]Roy G G,Das S,Chakraborty P,et al.Design of non-uniform circular antenna arrays using a modified invasive weed optimization algorithm [J].Antennas and Propagation,IEEE Transactions on,2011,59(1):110-118.

[11]Yang H H,Amari S.Adaptive online learning algorithms for blind separation:maximum entropy and minimum mutual information[J].Neural Computation,1997,9(7):1457-1482.

[12]Cardoso J F,Laheld B H.Equivariant adaptive source separation[J].IEEE Transactions on Signal Processing,1996,44(12):3017-3030.

[13]Hyvarinen A.Fast and robust fixed-point algorithms for independent component analysis[J].IEEE Transactions on Neural Networks,1999,10(3):626-634.

[14]Zhang H,Shi Z,Guo C,et al.Blind source extraction for noisy mixtures by combining gaussian moments and generalized autocorrelations[J].Neural Processing Letters,2008,28(3):209-225.

[15]Shi Z,Tan X,Jiang Z,et al.Noisy blind source separation by nonlinear autocorrelation[C]//2010 3rd International Congress on Image and Signal Processing(CISP),2010:3152-3156.

[16]Hyvarinen A.Gaussian moments for noisy independent component analysis[J].IEEE Signal Processing Letters,1999,6(6):145-147.

[17]申永军,杨绍普,孔德顺.基于奇异值分解的欠定盲信号分离新方法及应用[J].机械工程学报,2009,45(8):64-70.Shen Yongjun,Yang Shaopu,Kong Deshun.New method of blind source separation in under-determined mixtures based on singular value decomposition and application[J].Journal of Mechanical Engineering,2009,45(8):64-70.

[18]成谢锋,陶冶薇,张少白,等.独立子波函数和小波分析在单路含噪信号盲分离中的应用研究:模型与关键技术[J].电子学报,2009,37(7):1522-1528.Cheng Xiefeng,Tao Yewei,Zhang Shaobai,et al.Applications of independent sub-band functions and wavelet analysis in singlechannel noisy signal BSS:model and crucial technique[J].Acta Electronic Signal,2009,37(7):1522-1528.

猜你喜欢
负熵因数高斯
因数是11的巧算
“积”和“因数”的关系
数学王子高斯
你要和他们不一样
天才数学家——高斯
积的变化规律
你要和他们不一样
找因数与倍数有绝招
自组织管理在慈善机构中应用的初探
从自卑到自信 瑞恩·高斯林