具有自我约束能力的粒子群神经网络均衡算法

赵慧青

摘要：针对现有的神经网络存在网络误差较大这一问题，本文提出了一种具有自我约束能力的粒子群神经网络均衡算法；该算法根据粒子群的信息共享与全局搜索特性，来优化神经网络的寻优效果；其中为了保持较好的精度，算法在粒子的速度进行完善的同时对网络进行了适当的约束。实验结果表明，其实验结果与预期效果基本相符，能够在不同的信道下，保持较好的精度。

关键字：神经网络；粒子群；信息共享；全局搜索；寻优

中图法分类号：TP393 文献标识码：A 文章编号：2095-2163（2015）03-

Self-discipline Neural Network Equalization Algorithm Based on the Particle Swarm

ZHAO Huiqing

（Department of Information Science，Xinhua College of Sun Yat-sen University，Guangzhou 510520，China）

Abstract： Existing neural network has a large network error. In response to this problem， the paper puts forward self-discipline neural network equalization algorithm based on the particle swarm. The effect on neural network optimization is realized according to the information sharing and global search feature of particle swarm. And in order to maintain good accuracy， appropriate network constraints are also imposed. The results show that the experiment results are basically consistent with the expected results. It can maintain good accuracy at different channel.

Keywords： Neural Network； Particle Swarm； Information Sharing； Global Search； Optimization

0 引言

从20 世纪 80 年代中期以来，神经网络以其好的自组织与自学习的独特优势，现已广泛地应用于通信领域[1-3]。但通过研究现有的神经网络则不难发现，该系统在实际运用中过度依赖于训练算法与初始权值，从而导致算法陷入了局部的最优化；为此，人们提出了许多解决方案[4-7]。其中，基于粒子群优化算法的神经网络算法尤为突出；算法通过结合群体中粒子间的合作与竞争关系，来促使网络群体的智能寻优；这在很大程度上解决了算法的局部最优化问题[8-9]。但在实际的运用过程中，又进一步发现，算法依然存在需要改进的地方，即网络的适用性较小且精度不高等问题。

为此，本文提出了一种具有自我约束能力的粒子群神经网络均衡算法。算法依据神经网络与粒子群算法的特点[10]，将神经网络算法与粒子群算法有机地结合在一起，并通过两者间的互补，来提高网络的整体效率。研究中为了避免算法出现局部最优化问题，本文对网络中的搜索粒子进行了速度的约束；而后，为保证算法的稳定性与精确性，又对网络的搜索进行了约束，由此而保障每一网络路径的有效畅通。经由仿真实验，该算法能够获得相比其他算法更高的精度，且其实际应用性也更强。

1. 神经网络

神经网络通过模仿动物的行为特征，进而实现分布式并行信息处理；这一方法有效地解决了网络的信息传输问题，通过依靠网络系统的复杂程度与各节点的连通性，实现了大量数据的传输问题[11]。其中，神经网络的结构大致可以分为三层，即输入层，隐含层以及输出层。

假设 为输入层到隐层的连接权重， 为隐层到输出层的连接权重，其中 ， 。其数据传输原理与结构图如图1所示。

图1 神经网络结构图

Fig.1 Neural network structure diagram

在图1的神经网络中，隐层函数如式（1）所示：

（1）

输出层函数如式（2）所示：

（2）

其中， 为隐层的输入，而 为隐层的输出； 为输出层的输入，而 为输出层的输出。 表示输出层的输入与输出间的传递函数，而 表示隐层的输入信号进行的小波变换。

2粒子群优化的网络均衡处理

2.1 初始化

初始化粒子在当前网络中的所在位置，令其在最初就以随机分布的方向进行定义，即 ，其中每个随机产生的粒子 都代表一个均衡器的一个权向量。同时再令初始位置为 ，初始速度为 ；为了便于后文的计算，在此，定义 为当前网络中的局部极值；而 则是代表当前网络中的全局极值。

2.2 速度和位置更新

速度与位置的更新在粒子群优化（PSO）算法中是至重要的参数指标项。为此，本文提出一个局部与全局的最佳粒子的搜索信息传递速度与位置更新函数，如式（3）所示。

（3）

其中， 为粒子速度的n个维度， 为0到1之间的随机数， 为比例因子，而 、 为局部最佳粒子 与全局最佳粒子 的扩展因数。基于此，为了保证其搜索的准度，对粒子的速度进行了限制，即当搜索的粒子速度超过设计的限定速度时，将对速度进行抑制，其方法的表达函数为：

（4）

2.3 网络的约束

本文采用网络的覆盖概率和宽度间隔对当前网络进行评价，具体求取方式论述如下。

2.3.1区间的覆盖概率

网络的覆盖概率（ ）是衡量网络适应与否的指标， 可做如下定义：

（5）

其中，m×n是样品数量；当 ，目标 ；其他的情况下， ，而 、 则为目标的最小值与最大值。

2.3.2 区间的宽度间隔

在时间间隔宽度足够长的情况下，网络的覆盖概率会较少。但如果其间隔过宽，却又会导致资源的浪费，为此，本文对预测区间内的宽度间隔进行定义，计算公式如下：

（6）

其中，R为潜在目标的范围。

而对于方根误差，本文则是用于评价器成功演绎训练来的指标，通过对预测区间内归一化的方根宽度进行定义，来提高神经网络训练的效果，其定义函数如下。

（7）

2.3.3 约束条件

在实际的运用中，上述提及的覆盖概率与宽度间隔存在一定的矛盾关联，为此需要进行制衡匹配，来提高网络的整体处理效果。本文中，使用的宽度标准如下所示。

（8）

其中，训练满足 ；但作为测试样品时， 为阶跃函数，并需满足如下条件。

其中， 、 皆为常数，用于惩罚网络覆盖现象的发生。

3仿真算法

为验证算法的可行性，本文在Matlab 2014a 软件环境下进行测试，并进行了多组实验。实验中选用的对比算法有传统的神经网络算法与文献[12]中的算法；同时又选用两种不同的信道进行测试，具体传输函数如下所示。

电话信道：

普通信道：

为检验算法的精度，本文选用误码率进行算法的评价，通过采用上述指定的算法进行测试，测试中以正方形曲线代表传统的神经网络算法，圆形曲线代表文献算法，而三角形图像代表本文算法。实验仿真结果如图2、图3所示。

图2电话信道下的误码率

Fig.2 Bit error rate in telephone channel

图3 普通信道下的误码率

Fig.3 Bit error rate under common channel

由图2、图3可看到，在两种不同的信道下，本文算法的误码率曲线始终保持在另外两种算法的下方；其中在电话信道下，本文算法随着信噪比的不断增强的影响，其误码率减少为了、最大；而在普通信道下，本文算法与文献算法所测误码率相接近，但本文算法始终保持在其下方。由仿真测试可知，测试过程有效证明了算法精度，且与其他算法相比更加适用于信道较复杂的网络。

4 结束语

提出了一种提升网络精度的神经网络均衡算法，该算法通过结合粒子群的特性，利用粒子的速度来避免粒子速度过大的造成的数据丢失现象；最后，根据网络的区间覆盖率与间隔宽度等条件对网络进行寻优约束；经实验验证，该算法具有较好的搜索精度，但在算法的搜索效率方面仍有较大的提升空间，这将作为下一步的研究方向，用于开展深入研究。

参考文献

[1]RICHARDSON F， REYNOLDS D， DEHAK N. Deep Neural Network approaches to speaker and language recognition[J]. IEEE SIGNAL PROCESSING LETTERS，2015，22（10）： 1671-1675.

[2]WANG L B， MENG Z， SUN Y Z， et al. Design and analysis of a novel chaotic diagonal recurrent neural network[J]. COMMUNICATIONS IN NONLINEAR SCIENCE AND NUMERICAL SIMULATION， 2015，26（1-3）： 11-23.

[3]ZHOU X H， ZHOU W N， YANG J， et al. A novel scheme for synchronization control of stochastic neural networks with multiple time-varying delays[J]. NEUROCOMPUTING，2015，159： 50-57.

[4]SONG Q K， ZHAO Z J， LIU Y R. Stability analysis of complex-valued neural networks with probabilistic time-varying delays[J]. NEUROCOMPUTING， 2015，159： 96-104.

[5]LIU H， BAN X J. Clustering by growing incremental self-organizing neural network[J]. EXPERT SYSTEMS WITH APPLICATIONS， 2015，42（11）： 4965-4981.

[6]JIANG M H， MEI J， HU J H. New results on exponential synchronization of memristor-based chaotic neural networks[J]. NEUROCOMPUTING， 2015，156： 60-67.

[7]XIONG T， BAO Y K， HU Z Y， et al. Forecasting interval time series using a fully complex-valued RBF neural network with DPSO and PSO algorithms[J]. INFORMATION SCIENCES， 2015，305： 77-92.

[8]AGRAWAL R K， BAWANE N G. Multiobjective PSO based adaption of neural network topology for pixel classification in satellite imagery[J]. APPLIED SOFT COMPUTING，2015，28： 217-225.

[9]KRZYSZTOF P， ARKADIUSZ L. Encoding symbolic features in simple decision systems over ontological graphs for PSO and neural network based classifiers[J]. NEUROCOMPUTING， 2014，144： 338-345

[10]TU J J， ZHAN Y Z， HAN F. Radial basis function Neural Network optimized by Particle Swarm Optimization Algorithm coupling with prior information[J]. JOURNAL OF COMPUTATIONAL AND THEORETICAL NANOSCIENCE，2013，10（12）： 2866-2871.

[11]SAURABH G， KARALI P， PAL S K. Particle swarm optimization of a neural network model in a machining process[J]. SADHANA-ACADEMY PROCEEDINGS IN ENGINEERING SCIENCES， 2014，39（3）： 533-548.

[12]SHEIKHAN M， MOHAMMADI N. Time series prediction using PSO-optimized neural network and hybrid feature selection algorithm for IEEE load data[J]. NEURAL COMPUTING & APPLICATIONS， 2013，23（3-4）： 1185-1194.