王尔申,李兴凯,张芝贤,庞 涛
(沈阳航空航天大学 电子信息工程学院,沈阳 110136)
电信工程
基于广义回归神经网络的粒子滤波算法研究
王尔申,李兴凯,张芝贤,庞 涛
(沈阳航空航天大学 电子信息工程学院,沈阳 110136)
针对基本粒子滤波算法存在的粒子退化问题,提出了一种基于广义回归神经网络(GRNN)的重要性样本调整的粒子滤波算法。利用广义回归神经网络优化从重要性密度函数采样的样本,将样本作为神经网络的输入,以观测值作为神经网络的目标向量,通过多次训练优化光滑因子逼近目标向量,用样本值和其周围的调整值作为训练后神经网络的输入向量,通过神经网络的输出向量指示用最优点来取代样本值。利用GRNN对样本进行调整,使得样本更接近于后验概率密度。仿真结果表明:基于广义回归神经网络的粒子滤波算法的性能在有效粒子数和均方误差参数方面优于基本粒子滤波算法,在改善滤波精度方面取得了较好的效果,验证了广义回归神经网络在粒子滤波算法中是可用的和有效的。
粒子滤波;神经网络;粒子退化;广义回归神经网络
粒子滤波(particle filter,PF)算法适用于任何能用状态空间模型表示的非线性非高斯系统。在目标跟踪、卫星姿态估计、金融领域数据分析、图像处理、卫星导航动态定位等方面得到广泛的应用[1-5]。粒子滤波主要的缺陷是存在粒子退化现象。即经过几步的迭代之后,使得只有很少的粒子具有非零权值,其他粒子的权值很小,粒子权重的方差增大,造成粒子样本集无法表示实际的后验概率密度分布。抑制粒子退化现象的两个关键技术是:重采样和重要性密度函数的选取。重采样技术能抑制粒子退化现象,但同时也带来了粒子的多样性丧失、样本枯竭等问题。另一种方法是通过优化重要性密度函数。文献[6]将卡尔曼滤波与粒子滤波结合提高估计精度。文献[7]利用高斯厄米特滤波器产生建议性分布函数,通过实时融入最新的观测数据来逼近系统状态的后验概率。文献[8-9]将扩展卡尔曼滤波(EKF)和无迹卡尔曼滤波(UKF)与粒子滤波算法相结合构成EKPF和UPF,改善滤波精度。文献[10]使用容积数值积分产生粒子滤波算法的建议性密度函数,给出容积粒子滤波算法(CPF),降低了滤波误差。
本文通过广义回归神经网络算法来优化重要性密度函数,在预测步骤之后,利用广义回归神经网络对样本进行调整使采样的样本更接近于后验密度,进而提高滤波精度。给出了广义回归神经网络(GRNN)与基本粒子滤波相结合的算法;通过仿真与基本粒子滤波进行性能比较。
1.1 广义回归神经网络(GRNN)
广义回归神经网络(GRNN)是一种基于非线性回归的前馈式神经网络。利用广义回归神经网络的逼近能力能够通过调整样本来优化重要性密度函数,进而逼近后验密度。GRNN由一个径向基网络层和一个线性网络层组成,它由四层构成,如图1所示,即输入层、模式层、加和层和输出层。
图1 GRNN神经网络结构示意图
1.2 光滑因子的优化
由于GRNN不需要知道样本数据的概率分布,不能直接从样本容量求理想的光滑因子,因此采用一维寻优的方法来求理想的σ值。为确保网络的泛化性能,将对参与训练的样本以缺一交叉的方式,即将其中一个样本作为检测样本,其他样本来构建网络,检测网络的推广性能,以此作为搜优目标。步骤为:
(l)设光滑因子取值σ;
(2)从训练样本中取出一个样本只用于检测,而由剩下的样本构建网络;
(3)用构建的网络模型计算检测样本的误差的平方值,称其为检测误差;
(4)重复步骤(2)和(3)步,直到所有的训练样本都有一次用于检测,求得检测误差的平均值,如下式所示,并将其作为搜优目标函数。
(1)
(2)
求出etotal对σ的一阶偏导,即得到了σ的梯度。进而可以通过σ的梯度来调整的σ值。
(3)
其中,η为学习步长,Δσ为光滑因子σ的修改量。
利用广义回归神经网络的逼近能力可用于粒子滤波优化粒子滤波算法中的重要性密度函数。
1.3 基于GRNN的粒子滤波算法
将GRNN神经网络与粒子滤波算法相结合来优化重要性密度函数。在粒子滤波算法中,可以根据量测值zk,训练GRNN网络使其接近似然函数,然后利用这个网络来调整样本值[11-12]。算法思想为:
1)首先建立输入向量和目标向量来进行了训练。通过采样得到一组样本,样本和它们的量测预测值构成了输入向量和目标向量。输入向量的维数n和学习样本的维数m决定了网络的结构n×m×(n+1)×n,(在本研究中,n=1,m=99)。
基于GRNN的粒子滤波算法步骤描述如下:
①初始化,k=0:
②当k=1,2,…时,执行以下步骤:
1)状态预测 根据系统的状态方程产生k时刻的先验粒子:{Xk|k-1(i);i=1,2,…,N}~p(Xk|Xk-1)。
5)时刻k=k+1,继续计算。
2.1 实验模型
为了进一步验证算法的有效性,本文引用如下的模型[13],该模型在大量文献中均可看到,是研究比较各种粒子滤波算法性能的典型验证模型之一。
状态模型和观测模型分别为:
(4)
(5)
2.2 滤波性能分析
依据上述模型中的系统方程与测量方程,设定初始时刻状态值x0和粒子总数,神经网络的学习步长为0.05,粒子数目为100,过程噪声方差为2、量测噪声方差为1时。运行环境为Matlab R2009a,Intel Core(TM)2 Duo CPU T6500,2.1 GHz,2 G内存。得到的结果如图所示。
图2 GRNN-PF和PF算法结果对比
图3 GRNN-PF和PF算法误差对比
图2中横轴为迭代步数,纵轴表示状态值,其中,点代表真实值,实线表示基本粒子滤波算法滤波后的估计值,虚线表示引入神经网络后滤波的估计值。图3中横轴为迭代步数,纵轴纵轴表示状态值,其中,星号表示基本粒子滤波算法滤波后的误差,方形表示引入神经网络后滤波的后的误差。从图中可以看出,使用GRNN神经网络改进后的粒子滤波算法比基本粒子滤波算法对状态的估计性能更好地接近真实值,误差也更小。两种算法处理后的不同参数如表1所示。
表1 采用不同算法处理后的参数比较
从表1可看出,粒子数目N=100,GRNN-PF算法的RMSE=3.6947,基本粒子滤波算法的RMSE=5.0273,估计精度提高了约26%;GRNN-PF算法的有效样本数为37.2775,基本粒子滤波算法的有效样本数为32.1359,增大了约15%。从中可看出引入广义回归神经网络后的粒子滤波算法对重要性概率密度函数进行优化,对粒子样本进行调整,使其更接近于后验密度,在相同粒子数目的条件下,有效样本数目增多,有效地抑制了样本退化,提高了滤波精度。
2.3 算法复杂度分析
依据式子(4)和(5)模型中的系统方程和测量方程以及参数设定,验证算法复杂度与粒子数N的关系,分别选取50,100,150,……,350个粒子,仿真其运行时间(单位为秒)。得到的结果如图4所示。图4中横轴为粒子数目,纵轴为算法运行时间,从中可以看出GRNN-PF算法的运行时间与粒子数目基本成平方增长。
将广义回归神经网络(GRNN)和基本粒子滤波算法有机结合,优化重要性密度函数。通过对算法的理论分析和数学仿真,比较了相同粒子数样本条件下,GRNN神经网络辅助的粒子滤波与基本粒子滤波的有效粒子数目和均方根误差参数。结果表明:GRNN神经网络辅助的粒子滤波算法使其样本更逼近于真实的后验密度分布,抑制了粒子退化现象,降低了估计方差。由于引入广义回归神经网络,如何降低算法的复杂度,提高算法的运算效率,将是今后的研究内容。
图4 GRNN-PF算法运行时间与粒子数目的关系
[1]程水英,张剑云.粒子滤波评述[J].宇航学报,2008,29(4):1099-1111.
[2]Li P,Kadirkamanathan V.Particle filtering based likelihood ratio approach to fault diagnosis in nonlinear stochastic systems[J].IEEE Trans.Syst.,Man,Cybern.C,2001,31(3):337-343.
[3]Gustafsson F,Fredrik G.Particle filters for positioning,navigation,and tracking[J].IEEE Transactions on Signal Processing,2002,50(2):425-437.
[4]Qing Ming,Jo Kang-hyun.A novel particle filter implementation for a multiple-vehicle detection and tracking system using tail light segmentation[J].International Journal of Control,Automation and Systems,2013,11(3):577-585.
[5]CHEN Zhi-min,BO Yu-ming,WU Pan-long,et al.Novel particle filter algorithm based on adaptive particle swarm optimization and its application to radar target tracking[J].Control and Decision,2013,28(2):193-200.
[6]夏楠,邱天爽,李景春,等.一种卡尔曼滤波与粒子滤波相结合的非线性滤波算法[J].电子学报,2013,41(1):148-152.
[7]薛丽,高社生,胡高歌.自适应GHPF及其在组合导航中的应用[J].计算机仿真,2013,30(5):108-111.
[8]De Freitas J F G,Niranjan M,Gee A H,et al.Sequential monte carlo methods to train neural network models[J].Neural Computation,2000,12(4):955-993.
[9]Van Der Merwe R,Doucet A,De Freitasn,et al.The unscented particle filter,CUED/F-IN-FENG/TR,380[R].Cambridge,UK:Cambridge University Press,2000:1-45.
[10]穆静,蔡远利,张俊敏.容积粒子滤波算法及其应用[J].西安交通大学学报,2011,45(8):13-17.
[11]M S Arulampalam,S Maskell,N Gordon,et al.A tutorial on particle filters for online nonlinear/non-Gaussian Bayesian tracking[J].IEEE Transactions on Signal Processing,2002,50(2):174-188.
[12]朱志宇.粒子滤波算法及应用[M].北京:科学出版社,2010:102-109.
[13]冯驰,赵娜.有效粒子数MCMC粒子滤波算法研究[J].应用科技,2009,36(4):19-22.
[14]周诚诚.第二类B-样条权函数神经网络的算法复杂度研究及应用[D].南京:南京邮电大学,2013:13-14.
(责任编辑:刘划 英文审校:宋晓英)
ResearchonGRNN-basedparticlefilteralgorithm
WANG Er-shen,LI Xing-kai,ZHANG Zhi-xian,PANG Tao
(College of Electronic and Information Engineering,Shenyang Aerospace University,Shenyang 110136,China)
Aiming at the weight degeneracy phenomena in fundamental particle filter algorithm,the particle filtering algorithm improving the important samples based on generalized regression neural network(GRNN)was presented.This algorithm optimizes the samples from importance density function by GRNN.The samples of particle filter are selected as the neural network input and the observed values as the neural network target vector.The smooth factors are optimized to approach the target vector through multiple trainings,and the samples and the corresponding surrounding adjusted values are regarded as the input of the neural network after training.The best optimized values are used to replace the sample indicated by the output vector indicator of neural network.The samples are adjusted through GRNN so as to be closer to the posterior probability density.Simulation results show that the GRNN-based particle filter algorithm,superior to the fundamental algorithm,can increase the effective particle number,reduce the mean square error,and improve the accuracy of the filtering performance.It is proved that this GRNN is available and effective in the particle filter algorithm.
particle filter;neural network;particles degeneracy;generalized regression neural network(GRNN)
2014-08-28
国家自然科学基金青年基金(项目编号:61101161);辽宁省自然科学基金(联合基金)资助项目(项目编号:2013024003)
王尔申(1980-),男,辽宁辽阳人,副教授,主要研究方向:GPS接收机信号处理,航空电子系统,E-mail:wes2016@126.com。
2095-1248(2014)06-0054-05
TN911
A
10.3969/j.issn.2095-1248.2014.06.010