刘 婷,张 锦,李灯熬
(太原理工大学信息学院,太原030024)
改进的自然梯度盲源分离算法在非平稳环境中的应用*
刘婷,张锦*,李灯熬
(太原理工大学信息学院,太原030024)
对于传统的自然梯度算法,在处理非平稳信号时,在步长更新迭代过程中,非平稳信号变化幅度过快而导致分离矩阵幅度变化的不稳定,从而影响分离效果。针对此问题,结合变步长的思想,提出了基于正交约束的自然梯度盲分离算法,该算法主要对恢复信号进行约束,通过使用瞬时误差有目的地控制变步长,从而加快算法收敛速度且提高了分离精度,同时保证了非平稳环境下分离过程的稳定性。结果表明,正交约束下的盲源分离算法可以高效地分离出非平稳环境下的源信号。
盲源分离;自然梯度;非平稳;正交约束
目前基于独立分量分析ICA(Independent Component Analysis)的盲信号分离算法在生物医学工程[1]、语音增强、通信系统和机械故障诊断等信号处理领域应用广泛。盲分离算法按具体解决途径分为自适应和批处理[2]。批处理算法数值稳定性较好,但需要预先已知大量的观测数据,不宜进行实时的在线信号分离。自适应算法计算量小,计算时间短,且适于非平稳环境,因而被广泛应用,该类算法主要有EASI算法[3],Fast-ICA算法[4],随机梯度,迭代求逆和自然梯度算法[5],算法最关键的部分是平衡收敛速度和稳态误差之间的矛盾。自适应变步长具有良好的全局收敛性,然而自然梯度控制步长依赖于输出的估计信号和分离矩阵,而迭代的过程中,分离矩阵在某些情况下只在其等价矩阵集合内更新,使算法停滞不前,这样既增加了计算量又使收敛变慢,为了解决上述问题,本文引入了可变步长的正交约束,对混合的观测信号进行分离,通过仿真实验,证明了算法的有效性。
1.1自适应盲源分离模型
盲源分离是指从混合信号中提取出各个独立成分,分离之前,任何先验知识都是未知的,模型可被写为:
项目来源:国家自然科学基金项目(61371062);山西省留学回国人员科研项目(2013-032);山西省国际合作项目(2012081031)
收稿日期:2015-06-04修改日期:2015-07-30
其中s(t)是源信号向量,零均值且相互独立的量,A是未知的满秩混合矩阵,x(t)是s(t)经线性瞬时混合得到的混合信号向量。盲源分离一般是先选定一个目标函数,根据目标函数寻找一种最优算法,解混的过程是通过算法使得恢复出的信号y(t)尽可能地接近源信号,分离的结果是要找出一个最优分离矩阵W,分离过程可用公式表达为:
定义全局矩阵为G=WA,理想情况下,算法应找到一个分离矩阵W使得G=WA=I,I为单位阵,但通常情况下,只能得到一个与单位阵相似的矩阵,即G=ΛP,Λ表示任一可逆对角阵,P为任一置换矩阵,当且仅当y(t)=ΛPs(t)时,y(t)的分量相互独立,源信号即被很好地分离出来,Λ表示分离出的信号可能与源信号存在幅度上的差异,P表示排列次序的不确定性,实际应用中,这两者都是可以接受的。自适应盲分离的过程如图1所示[6-8]。
图1 自适应盲源分离算法图
由此过程可以看出,迭代产生的独立成分y(t)反馈到分离矩阵W,连同观测信号一起作为下一次的输入,观测信号x(t)输入算法目的是自适应地估计源信号y(t),达到盲源分离的目的。
1.2自然梯度算法
盲分离的关键是寻找最优的分离矩阵Wopt,使得各信号分量yi之间尽可能的相互独立,相依性最小,常用Kullback-Leibler散度I(W)作为独立性测度,并使其最小化。公式表示如下[9]:
式(3)中,p(y)是y的联合概率密度函数,pi(yi)是y的边缘概率密度函数,当且仅当p(y;W)与pi(yi)具有相同的分布时,KL散度I(W)为0,且不随变量yi的非线性变换而变化,此时,分离效果达到理想情况。基于散度得到随机梯度的盲源分离算法如下:
但是随机梯度收敛慢,且易受混合矩阵的影响,此外,由公式可以看出,迭代过程需要求逆,计算复杂,因此,在随机梯度的基础上提出自然梯度算法,其通用的迭代公式为:
其中μ(t)是取决于t的学习速率,f为所谓的评价函数(Score Function),f(y)=(f1(y1),f2(y2),…,fn(yn)T,是列向量,定义如下:
如果源信号满足非高斯性,则 fi(yi)为非线性函数。
对于式(5)算法,当学习步长参数取固定值时,步长太大则收敛较快,但是稳态变差;反之,步长太小则稳态性好,但是收敛变慢,不适合实时处理,甚至可能导致混合信号永远无法得到分离。本文提出一种新的自适应变步长算法,该算法用瞬时误差信号自动控制分离的快慢达到收敛速度与稳态的平衡。
经典模式的目标函数有基于互信息、最大似然和信息最大化准则,基于这些函数的算法都属于无约束的盲源分离算法,通常情况下,为去除各混合信号间的相关性,简化后续独立信号分量的提取算法,运用分离算法之前都先用主分量分析方法,PCA (Principle Component Analysis)对混合信号进行白化处理。白化后的混合信号x(t)变为具有单位方差的信号且各混合信号相互正交,经推导证明输出的分离信号也具有单位方差,并且分离矩阵一定是正交矩阵,即满足W-1=WT。
但是,基于预白化数据的盲源分离不具有等变化性。等变化性的意思是算法的全局矩阵G=WA,与混合矩阵A无关,即使当系统混合方式发生变化时,算法的全局矩阵也不会发生变化,这种性质是盲源分离算法的重要性质之一。因此,基于预白化数据的盲源分离虽然可以简化算法,但同时也限制了算法的应用,而且在遇到病态混合矩阵或者源信号很弱时,基于预白化数据的盲源分离,其分离性能会很差。因此,需要考虑加权正交约束WRxWT=I[3-4],此方法不仅可以达到预白化的效果且还可保留盲源分离的等变化性质,分离效果更稳定。只需在每一次迭代后,对分离矩阵进行正交性处理,方法如下:
其中,自相关矩阵可以用式(8)估计:
传统的自然梯度算法中,步长因子μ(t)通常采用固定值,步长太大则收敛快,但是稳态误差也随之变大,不能很好的恢复信号;步长太小则稳态效果较好,但收敛变慢,不利于实时处理。要解决这个矛盾,必须要采用自适应变步长算法,任何自适应变步长系统调整参数的目的都是为了找到收敛速度与稳态误差的最佳平衡点。
本文引入正交约束后用瞬时误差信号的Frobenius范数的平方作为参数控制步长使其自适应地变化,令误差为:
可以看出,E(t)恒大于等于零。对于非平稳信号幅度变化太大,分离的过程中步长也可能波动较大。因此,为了使分离结果满足要求,本文的步长自适应调整的原则是:在自适应分离的过程中,为了不使步长变化太大或太小,本文设置了步长上限和下限,μmax=0.03和 μmin=0.000 005。当步长处于最大值和最小值之间时,本文规定步长的更新依据误差信号的变化量来定,具体过程描述如下:令ΔE(t)=E(t)-E(t-1),如果ΔE(t)增大,则说明步长太大,出现了动荡,下一时刻的步长需要比这一时刻的步长小,本文采用在这一时刻的步长前乘以一个小于1且接近于1的系数对步长进行微调,其中β是为了调整λ(t)引入的参数,是经过大量实验得到的,根据实验所需,β取0.001;相应地,如果ΔE(t)进一步减小,说明还没有进入收敛领域,也即还没有得到最佳分离矩阵,迭代继续进行。如式(11)、式(12)所示。
最终,新的正交约束下的自然梯度变步长算法的分离矩阵更新公式为:
为了验证算法的有效性,本实验对如图2所示的三个非平稳源信号分别是突变信号、FSK信号和语音信号进行了线性混合,随机生成一个3×3维的混合矩阵A,并服从区间[-1,1]上的均匀分布,采样频率用10kHz,初始步长 μ0=0.03,进行200次蒙特卡洛仿真实验,激活函数取 f(y(t)=y3(t)。
算法的分离性能用“串音误差”(Cross-talking Error)来衡量,公式如下:
其中G是全局矩阵,表示为G=WA,gpq为第p行第q列元素。从以上指标可以看出,当Ect越大,分离独立分量效果越差。反之,Ect越小,分离效果越好。
图2 源信号
正交约束自然梯度变步长算法的实验流程:
(1)随机产生混合矩阵,对源信号进行线性混合,得到3个混合信号。
(2)初始化分离矩阵W0=0.5∗I3×3,自相关矩阵Rx(t)=I3×3,学习步长 μ0=0.03。
(3)参数值的大小β=0.001,α=0.995,ρ=0.28。
(4)计算y(t)=W(t)x(t)。
(5)更新学习步长μ(t)、更新自相关矩阵Rx(t)、更新分离矩阵W(t)。
(7)t<T,回到步骤(4),否则进行步骤(8)。
(8)依据y(t)和Ect(t)绘制恢复的源信号波形和算法性能曲线。
为了进行比较,将本文提出的正交约束算法与基于预白化处理数据一同应用于处理上述混合信号,从图3(a)、图3(b)可以看出,基于预白化的算法与随机矩阵的选择有关,所以分离效果不稳定,本文加入正交约束后的算法对非平稳信号的处理效果更好一些,实用性较强。
图3 基于预白化处理和正交约束处理的分离信号
为了验证变步长算法的有效性,用本文算法与固定步长的自然梯度算法作了对比,取固定步长μF=0.002,分别计算两种算法运行过程中的平均串音误差,其学习曲线如图4所示。从串音误差曲线可以看出,变步长使得分离过程收敛变快且分离到最后阶段的时候稳态误差明显比固定步长小。
图4 敛曲线对比图
盲源分离算法作为一种功能强大的信号处理工具越来越受到重视,研究也越来越趋于实用化。本文针对非平稳信号较难处理的问题,提出了一种基于正交约束的盲源分离算法,实验结果表明,本文算法可以高效可靠地分离出非平稳信号,且相较于固定步长算法,变步长算法收敛快、稳定性好,为非平稳信号的处理提供了一种新思路。
[1] Yong X,Ward R K,Birch G E.Generalized Morphological Component Analysis for EEG Source Separation And Artifact Removal [C]//Neural Engineering,2009.NER'09.4th International IEEE/ EMBS Conference on.IEEE,2009:343-346.
[2] 罗志增,周炜.一种改进的盲源分离技术及其在SEMG中的应用[J].传感技术学报,2009,22(8):1204-1207.
[3] Cardoso J F,Laheld B H.Equivariant Adaptive Source Separation [J].IEEE Transactions on Signal Processing,1996,44(12):3017-3030.
[4] 王小敏,曾生根,夏德深.独立分量分析算法的改进研究[J].电子器件,2008,31(5):1681-1684.
[5] Amari S I.Natural Gradient Works Efficiently in Learning[J]. Neural computation,1998,10(2):251-276.
[6] Zhu X L,Zhang X D,Ding Z Z,et al.Adaptive Nonlinear PCA Algorithms for Blind Source Separation Without Prewhitening[J]. IEEE Transactions on Circuits and Systems I:Regular Papers,2006,53(3):745-753.
[7] Ye J,Huang T.New Fast-ICA algorithms for Blind Source Separation without Prewhitening[M]//Applied Informatics and Communication.Springer Berlin Heidelberg,2011:579-585.
[8] 高颖,李月,杨宝俊.变步长自适应盲源分离算法综述[J].计算机工程与应用,2007,43(19):75-79.
[9] Yuan L,Wang W,Chambers J A.Variable Step-Size Sign Natural Gradient Algorithm for Sequential Blind Source Separation[J]. Signal Processing Letters,IEEE,2005,12(8):589-592.
刘婷(1988-),女,汉族,山西朔州人,太原理工大学硕士,从事医电信号处理工作1097898450@qq.com;
张锦(1964-),女,汉族,山西黎城人,山西大医院博士,从事医院医技科室的管理与研究工作,zhangjin_99@126.com;
李灯熬(1971-),男,汉族,山西忻州人,太原理工大学博士,从事医电信号处理研究工作,lidengao@tyut.edu.cn。
An Improved Blind Source Separation Based on Natural Gradient Algorithm Used in Non-Stationary Environments*
LIU Ting1,ZHANG Jin2*,LI Dengao1
(Information Engineering,Taiyuan University of Technology,Taiyuan 030024,China)
Traditional natural gradient algorithm may lead to unstable variations for separating matrix during the processing of non-stationary signals,which may greatly affect separation.To solve this problem,combined with the idea of variable step,we propose a natural gradient algorithm for blind source separation based on orthogonal constraints,it constrains the strength of the recovery signals in order to ensure the stability of the separation process under non-stationary environment;in addition,we employ the instantaneous error to control variable step purposefully,for this reason,the convergence speed increases and the separation accuracy is improved.The results showed that blind source separation algorithm by using orthogonal constraints can efficiently separate the source signals even in non-stationary environments.
blind source separation;natural gradient algorithm;non-stationary;orthogonal constraints
TN912.3
A
1005-9490(2016)03-0675-05
EEACC:7220;0290Z10.3969/j.issn.1005-9490.2016.03.034