基于改进的PSO算法优化灰色神经网络的话务量预测

2015-12-20 06:52俞秀婷覃锡忠贾振红傅云瑾曹传玲
计算机工程与设计 2015年11期
关键词:话务量灰色粒子

俞秀婷,覃锡忠,贾振红,傅云瑾,曹传玲,常 春

(1.新疆大学 信息科学与工程学院,新疆 乌鲁木齐830046;2.中国移动通信集团设计院有限公司,北京100080;3.中国移动通信集团新疆有限公司,新疆 乌鲁木齐830063)

0 引 言

灰色系统理论[1]提供了一种可以在贫信息情况下解决系统问题的新途径,该理论对灰色量是用数据生成的方法,将分布规律较弱的原始数据整理成规律性较强的数列再进行研究,而不是从寻找统计规律的角度出发对大样本数据进行研究。在灰色系统中建立的模型被称为灰色模型[2](GM),它可以预测贫信息、小样本、不确定系统特征值的发展趋势。神经网络具有并行性处理,非线性映射、容错力强和自适应能力等优点。可以充分利用灰色预测模型和神经网络模型的相似性和互补性,将两个模型结合,建立灰色神经网络[3-7]模型。虽然GNN 模型的建立弥补了单一使用灰色模型或者神经网络技术解决问题的不足,但是模型中的参数具有很大的随机性,网络在训练时容易陷入局部最优导致模型逼近能力弱、预测精度不高。本文采用改进的粒子群优化算法来优化灰色神经网络的初始参数,使网络的预测值更加逼近真实值,提高了网络的预测精度。

1 灰色神经网络

灰色系统与神经网络技术有多种组合方式[8],根据两者的融合方法,灰色神经网络模型可分为串联型灰色神经网络 (SGNN)、并联型灰色神经网络 (PGNN)、嵌入型灰色神经网络 (IGNN)和混合型灰色神经网络 (BGNN)4种模型,本文采用混合型研究灰色神经网络,这种模型增加了网络的并行处理能力,可以提高GNN 模型的预测精度。

设原始数据序列为x(t)(t=1,2,3,…,n),累加生成数据序列为y(t)(t=1,2,3,…,n),其用数学表示为

将累加生成的数列建立微分方程,得到n 个参数对应的灰色神经网络模型的微分方程

式中:y2,y3,…,yn——输入数据,y1——输出数据,a,b1,b2,…,bn-1——微分方程参数,组成GNN 的初始参数。式 (2)的时间响应表达式为

将式 (4)映射到一个扩展的BPNN 中即可得到一个GNN 模型,其拓扑结构如图1所示。

由图1可看出,灰色神经网络分为4层,分别记为LA层、LB层、LC 层、LD 层,其中t 为输入参数序号,y2(t),y3(t),y4(t),…,yn(t)表示网络输入变量,y1表示网络输出变量。w11表示LA 层到LB 层的连接权值,w21,w22,…,w2n表示LB 层到LC 层的连接权值,w31,w32,…,w3n表示LC 层到LD 层的连接权值。网络的初始参数w11=a,w21=-y1(0),w2i=2bi-1/a,(i=1,2,…,n),w3j=1+e-at,(j=1,2,…,n)。每一层上神经元的输出值可由以下公式计算给出

图1 灰色神经网络的拓扑结构

其中,θ为输出层的阈值,θ= (1+e-at)(d-y1(0)),LB层上神经元的转移函数取Sigmoid型函数:f(x)=1/ (1+e-x),其它层神经元的转移函数取线性函数:f(x)=x。在网络训练过程中,通过计算网络的期望输出与预测输出的误差值,反向调整灰色神经网络的权值和阈值,其迭代公式如下:

其中输出层LD 的误差σ

LC层的误差σk

LB层的误差σn+1

权值和阈值的计算

将误差公式带入式 (12),式 (13)进行权值和阈值的迭代更新。

2 改进的PSO 算法优化GNN

2.1 标准PSO 算法

PSO 算 法[9-13]是 将 每 个 个 体 看 作D 维 搜 索 空 间 中 的 一个没有体积的粒子,根据对环境的适应度将种群中的粒子个体移动到更好的区域,第i个粒子表示为Xi=(xi1,xi2,…,xid)(1≤d≤D),经历过的最优位置为Pi= (pi1,pi2,…,pid)(1≤d≤D),记为个体最优解pbest。群体中的所有粒子经历的最优位置为Pk,记为全局最优解gbest。粒子i的速度为vi= (vi1,vi2,…,vid)(1≤d≤D)。每一代粒子的速度、位置的更新和适应度函数的计算通过如下公式得到

式 (14)中惯性权重w 的迭代公式为

其中,k为进化代数,c1和c2为加速常数,rand为 [0,1]内的随机数,N 为种群中粒子的个数,yi为粒子i 的实际输出,y′为粒子i的期望输出,wmin,wmax分别为惯性权重的最大值和最小值,Tmax为设定的最大迭代次数。

2.2 改进的PSO 算法理论

PSO 算法是一种基于群体协作的随机搜索算法,在随机搜索后期,容易出现早熟收敛的现象。这里通过给定一个阈值h,一般设定h→0,当粒子的速度vi小于这个阀值时,通过添加一个加速动量,重新初始化速度,且使-vmax≤vi≤vmax,然后让粒子重新飞行搜索,重新分布原来可能会出现的早熟粒子,扩展搜索以找到全局最优的位置,上述过程可表达为

式(18)中v′id表示改进后粒子的速度,λ表示优化系数,m (0<m<1)表示随机变量参数,pid表示速度变化后经历粒子的最优位置;x′id表示速度变化后粒子所处的位置。在算法中优化系数λ有着重要的作用,λ取值过大或过小都会影响优化的效果,λ取值过小可能导致粒子速度变化不大,优化不明显,λ取值过大导致重新初始化粒子速度过大,影响粒子的收敛性,也可能使粒子跳过全局最优值,反而不能找到最优值。这里优化系数的值由下式确定

2.3 改进的PSO 优化灰色神经网络

IPSO-GNN 计算的实现大体分为3个阶段:GNN 模型结构的确定、PSO 算法的改进以及网络的仿真,其具体步骤如下:

(1)根据给出的训练样本,构建灰色神经网络模型,确定模型参数a,bi的个数和网络的连接权值和阈值,初始化参数。

(2)对给定的训练样本进行归一化和预处理。

(3)把灰色神经网络模型的参数a,bi作为粒子群算法中的粒子,初始化粒子的加速常数,惯性权重的最大、最小值以及最大迭代次数;初始化粒子的速度、位置,确定粒子的初始最优值和全局最优值。

(4)用式 (16)作为粒子的适应度函数,计算粒子的适应度值。若粒子的当前位置比历史最优位置好,则把当前位置作为粒子的最优位置;若当前的适应度函数值优于种群的历史最优值,则替换种群的最优位置。反之,则保持历史最优位置不变。

(5)比较给定的速度阈值h 和当前的粒子速度大小,若当前的粒子速度小于h,则给定一个加速动量,按式(18)计算新的速度,返回步骤 (2),重新进行优化。

(6)判断是否满足PSO 算法的结束条件 (达到最大迭代次数或小于给定误差),如果满足,则把寻找到的全局最优解作为模型参数a,bi的值,否则返回步骤 (2)重新搜索。

(7)利用确定的网络输入训练样本进行训练,利用式(9),式 (10)和式 (11)计算误差,再根据式 (12)和式(13)更新网络的权值和阈值。

(8)利用训练好的网络对忙时话务量进行预测,并对预测值与真实值进行分析。

3 仿 真

3.1 数据来源及处理

观察新疆A,B两地区2014年1月1日到2月28日的话务量数据,对每天的话务量每隔一小时统计一次,每天记录24个数据,将这24个数据作为每天0到23点的话务量值,并找出每天24个数据中的最大值作为当天的忙时话务量,共得到59个忙时话务量数据。收集A,B 两个地区2014年1月1日到2月28日每天17点到21点共59×5个话务量数据,将这些话务量数据作为灰色神经网络输入值,对应的每天的忙时话务量数据作为网络输出值,进行网络训练预测。

3.2 预测结果及分析

从收集的数据中,选取前49天的数据作为训练样本,后10天的数据作为测试样本。用改进PSO-GNN 模型进行寻优、训练和预测。文中灰色神经网络的结构采用1-1-6-1,改进PSO 算法中初始参数设置:加速常数c1=c2=2,最大迭代次数Tmax=100,惯性权重wmin=0.2,wmax=0.9,粒子速度vmin=-1,vmax=1。选取PSO-GNNM、GNN 和BPNN 作为对比模型,对比模型中参数的初始参数值与IPSO 灰色神经网络模型取值相同,BPNN 的隐含层神经元取11个,预测误差评价通过式 (21)给出

式中:G——预测值,G′——真实值,k——训练次数。用4种模型分别对A,B 地区的话务量预测,并记录这4 种模型预测误差,结果如图2、图3和表1所示。

图2 A 地区话务量预测

图3 B地区话务量预测

表1 A,B两地区话务量预测误差统计

由图2和图3中可以看出,运用IPSO-GNN 模型预测忙时话务量比PSO-GNN,GNN 和BPNN 模型具有更好的预测效果,更加接近于真实值。表1中,分析各个模型的预测误差发现,对于新疆A 和B 地区而言,BPNN 模型的误差均值分别为7.23%和6.84%,GNN 模型的误差均值分别为5.79%和5.37%,可见在样本较少的预测问题上,GNN 模型的预测效果要优于BPNN 模型;同时,PSOGNN 模型的误差均值分别为3.89%和3.73%,IPSO-GNN模型的误差均值分别为2.59%和2.55%,比较预测结果发现,IPSO 算法具有更好的全局搜索寻优能力,在预测的精度上,IPSO-GNN 具有最高的预测精度,误差要小于其它3种模型。这说明IPSO 算法、GM 模型和BPNN 模型的集成模型能够综合各个单一模型的长处,更好地挖掘话务量序列背后的复杂线性与非线性特征,改善了模型的预测性能。

4 结束语

本文充分利用了神经网络具有较强的非线性映射能力和灰色预测建模所需样本较少、方法简单的优点,将神经网络理论和灰色理论结合起来,组成GNN 模型,在一定程度上达到了取长补短的效果。然后,针对PSO 算法在粒子寻优过程粒子的速度可能小于一定阀值而陷入局部最优导致不能达到全局最优的缺点,提出了当粒子速度小于这个阀值时,对粒子施加一个冲量,使其位置更新,促使粒子群达到全局最优。最后,运用IPSO 算法对GNN 模型的参数进行寻优,提出了IPSO-GNN 模型,并运用于忙时话务量的预测。结果表明,相比于PSO-GNN、GNN 和BPNN模型,IPSO-GNN 模型具有更高的预测精度,是一种可靠的话务量预测方法。由于研究时间有限,文中针对忙时话务量预测建立的IPSO-GNN 模型,除了对话务量预测研究外,可考虑将其研究对象的范围扩大。

[1]Kayacan E,Ulutas B,Kaynak O.Grey system theory-based models in time series prediction [J].Expert Systems with Applications,2010,37 (2):1784-1789.

[2]Lin JJ,Sun PT,Chen JJR,et al.Applying gray model to predicting trend of textile fashion colors [J].The Journal of the Textile Institute,2010,101 (4):360-368.

[3]Zhou D.A new hybrid grey neural network based on grey verhulst model and BP neural network for time series forecasting[J].International Journal of Information Technology &Computer Science,2013,5 (10):114-120.

[4]WU Yiping,TENG Weifu,LI Yawei.Application of greyneural network model to landslide deformation prediction [J].Chinese Journal of Rock Mechanics and Engineering,2007,26(3):632-636 (in Chinese). [吴益平,滕伟福,李亚伟.灰色-神经网络模型在滑坡变形预测中的应用 [J].岩石力学与工程学报,2007,26 (3):632-636.]

[5]Zhang D,Ren Z,Bi Y,et al.Power load forecasting based on grey neural network [C]//IEEE International Symposium on Industrial Electronics.IEEE,2008:1885-1889.

[6]Zeng B,Zou JX,Li K,et al.Wind speed prediction based on improved grey neural network model[C]//Applied Mechanics and Materials,2014:1235-1240.

[7]He Q,Chen G,Chen X,et al.Life prediction of hydraulic pump based on an improved grey neural network [J].Zhongguo Jixie Gongcheng (China Mechanical Engineering),2013,24 (4):500-506.

[8]FAN Yanmin.Prediction on stock index based on grey neural network [D].Beijing:Beijing University of Technology,2011 (in Chinese).[范艳敏.基于灰色神经网络的股指预测方法研究 [D].北京:北京工业大学,2011.]

[9]Selvakumar AI,Thanushkodi K.A new particle swarm optimization solution to nonconvex economic dispatch problems[J].IEEE Transactions on Power Systems,2007,22 (1):42-51.

[10]Ting CJ,Wu KC,Chou H.Particle swarm optimization algorithm for the berth allocation problem [J].Expert Systems with Applications,2014,41 (4):1543-1550.

[11]MA Jiming,XU Zhongren, WANG Bingzheng.A PSObased combined forecasting grey neural network model[J].Computer Engineering & Science,2012,34 (2):146-149(in Chinese).[马吉明,徐忠仁,王秉政.基于粒子群优化的灰色神经网络组合预测模型研究 [J].计算机工程与科学,2012,34 (2):146-149.]

[12]Cakir O,Kaya I,Yazgan A,et al.Emitter Location Finding using Particle Swarm Optimization [J].Radioengineering,2014,23 (1):253.

[13]Li GD,Masuda S,Yamaguchi D,et al.The optimal GNNPID control system using particle swarm optimization algorithm[J].International Journal of Innovative Computing,Information and Control,2009,5 (10):3457-3469.

猜你喜欢
话务量灰色粒子
浅灰色的小猪
基于时间序列模型的异常话务量分块建模和预测
基于粒子群优化的桥式起重机模糊PID控制
基于粒子群优化极点配置的空燃比输出反馈控制
灰色时代
她、它的灰色时髦观
S1240交换机实时话务量统计的分析与实现研究
感觉
多基站调度网话务量模型
基于Matlab的α粒子的散射实验模拟