基于RAGA的GM(1,1) RBF组合需水预测模型

2010-09-05 12:57:32周孝德杨方廷
长江科学院院报 2010年5期
关键词:神经网络节点预测

邵 磊,周孝德,杨方廷,韩 军

(1.西安理工大学水电学院,西安 710048;2.系统仿真技术应用国家工程研究中心,北京 100854)

基于RAGA的GM(1,1) RBF组合需水预测模型

邵 磊1,周孝德1,杨方廷2,韩 军2

(1.西安理工大学水电学院,西安 710048;2.系统仿真技术应用国家工程研究中心,北京 100854)

建立了基于实码加速遗传算法(real coded accelerating genetic algorithm,RAGA)的灰色(greymodel,GM(1,1)) 径向基函数(radial basis function,RBF)神经网络预测模型。该模型克服了传统GM(1,1)模型存在明显系统误差和容易陷入局部最优的缺点,具有GM(1,1)模型对数据确定性方面把握的优点,同时融合了人工神经网络在不确定因素预测方面的优势。运用该模型对山西工业需水量进行预测,预测表明该模型相比单个传统模型具有相对较高的预测精度,验证了GM(1,1) RBF组合模型在中长期需水预测应用中的合理性,对相关政策的制定有一定参考价值。

实码加速遗传算法;灰色预测模型;径向基函数神经网络;组合预测;山西

1 概 述

近年来,山西省工业建设得到迅猛发展。到2000年为止,全省工业企业数增长了近30倍,其中重工业企业数从原来不到1/2发展到2/3,轻重工业比重由1949年的1∶0.78发展到1∶4.94,工业结构由轻工业为主逐步转变为以重工业为主。同期工业和农业总产值的比例由1∶7.21发展为1∶0.11,工业发展速度明显高于农业发展速度,正向工业现代化省份发展,形成了以重工业(如煤炭、电力、冶金、化工、机械等)为主体,门类齐全、具有地方特色的工业体系。2000年,山西省工业万元产值取水量指标为67.2 m3,是天津市的3.95倍,山东省的1.98倍,这说明山西省工业结构总体上仍属于高耗水型,节水潜力很大[1,2]。工业的快速发展对用水的需求加大,加深了山西省水资源严峻的局面,水资源不能充分地满足能源工业建设的要求,存在着潜在的危机。因此,进行需水预测研究意义重大。

2 模型建立

2.1 理论基础

灰色预测模型是20世纪80年代发展起来的属于非线性外推类预测方法,是指GM(1,1)模型为基础的预测,GM(1,1)模型是一阶单变量的微分方程动态模型,其形式上是单因素的,实质上却是全因素的,主要应用于时间序列预测。因其实用性强,所需数据量较少,建模灵活方便,预测精度较高,从而在社会科学和自然科学各领域得到广泛应用。

人工神经网络(artificial neural network,ANN)具有并行计算、分布式信息存储容错能力强、自适应学习功能等优点,在处理复杂的人工智能和非线性问题上显示出极优越的地位。以往需水预测所采用的人工神经网络模型,大多数是以误差反向传播训练算法(back propagation,BP)型网络为主。在BP型网络中,隐含层单元采用Sigmoid函数作为传递函数,其函数值在无穷大范围内为非零值,而所用的算法是梯度下降方法,因而会造成收敛速度慢和局部极小的缺点。1980年代中期开发出了径向基神经网络(RBFNN)模型。RBF网络和BP网络一样可以逼近任何连续的非线性函数,但与BP网络不同,RBF网络中,RBFNN隐含层节点采用的传递函数是径向对称的基函数,这种基函数能将输入信号集中在一个较小的对称范围内产生反应(进行权值修正),而对于远离这个局部中心的数据点,基函数的输出可近似为零。因此RBFNN能将学习范围集中在一个中心领域内,从而克服了BP网络函数值的不紧密性,收敛速度大大加快,从而构成了ANN模型中的一个较新的算法。

RBF神经网络映射关系由两部分组成(设输入维数为m、隐含层为n、输出层为l):一部分是由输入空间到隐含层空间非线性变换的映射关系;另一部分是由隐含层空间到输出层空间线性加权和变换的映射关系[4]。

如图1所示,输入样本为X=(x1,x2,x3,…xm)∈Rm;输出权向量W∈Rn×l;网络输出为Y=(y1,y2,y3,…,yl);隐含层节点的激活函数是n维径向基函数:

式中:cj为第j个隐含层节点的基函数中心参数;σj为第j个隐含层节点的基函数宽度参数;‖x-cj‖为矩阵欧氏范数。RBF网络输出为

式中:wjk为隐含层节点j至输出层节点k的连接权值;φj为隐含层节点的输出值。因此,当确定了RBF网络的聚类中心cj,权值wjk以后,可以求出对应给定某一输入时网络的输出值。

图1 RBF神经网络结构Fig.1 Construction of RBF network

利用GM(1,1)模型对数据确定性方面把握的优势和人工神经网络在不确定因素预测领域的优势,提出了用RBF GM(1,1)组合模型预测需水量的新方法。优点如下:①人工神经网络具有逼近任意函数的能力,GM(1,1)模型不适合逼近复杂的非线性函数,但能较好地预测变化的总体趋势;②GM(1,1)模型是用指数曲线,对存在一定偶然因素的数据拟合性差,而神经网络则对此类数据有较好的处理效果;③灰色预测方法的累加生成不但能够削弱随机干扰的影响[5],而且累加后的序列呈单调增长趋势,比较适合用于RBF神经网络中的径向对称的基函数进行逼近。

GM(1,1)参数估计问题是一个非线性优化问题,传统的非线性优化方法实用性差,往往求得的是局部最优解,利用文献[6]中的RAGA代替传统的最小二乘法对GM(1,1)中的参数进行优化,可以避免陷入局部最优,实现全局寻优,提高预测精度。

基于实数编码的加速遗传算法(RAGA)是标准遗传算法的改进方法,克服了其编码过程繁琐、精度受字串长度的限制以及计算量大并且容易早熟收敛的缺点。它具有如下特点:①采用实数编码;②在个体适应度评价时采用了基于序的评价函数,不受实际目标值的影响;③各种遗传操作时并行进行的,然后将所有子代统一进行评价,再从中根据适应度值选取与群体总数相同的个体作为下一代进化的父代,这样尽可能地保证个体的多样性,选出更优越的个体解,有可能加速进化时间;④利用运行过程中搜索到的优秀个体所囊括的空间来逐步调整优化变量的搜索空间,提高了寻优速度,加快了收敛速度[6-9]。

具体步骤为,对于一般最小优化问题:

(1)优化变量实数编码。采用线性变换:x(j)=a(j)+y(j)(b(j)-a(j)),j=1,2,…p;这样就把初始变量区间[a(j),b(j)]上的第j个待优化变量x(j)对应到[0,1]区间上的实数y(j),y(j)即为RAGA中的遗传基因;

(2)父代群体初始化;

(3)父代群体适应度评价,定义基于序的评价函数为eval(y(j,i))=a(1-a)i-1,i=1,2,…N,参数a∈(0,1),i=1意味着染色体最好,i=N是最差的;

(4)选择操作,过程以旋转赌轮N次为基础,每次旋转都为新的种群选择一个染色体,赌轮按每个染色体的适应度来选择染色体;

(5)对父代种群进行杂交;

(6)进行变异操作;

(7)演化迭代。

2.2 建立步骤

基于RAGA的GM(1,1) RBF神经网络组合模型的建立步骤如下:

(1)原始数据矩阵

将Y=[Y1,Y2,…,Ym]代入GM(1,1)模型αx(1)=μ,并用RAGA代替最小二乘法,优化求解表达式中的参数α,μ,得到模型的时间响应函数

(2)对多个序列用灰色GM(1,1)模型预测后,可以得到一系列预测值。它们一般都会和原始数据有一定的偏差,而这些原始序列之间也有一定的关联,并且关联是未知的。因此用RBF神经网络模型模拟这些预测值与实际值之间的偏差以及序列之间的相互关系,将预测值作为RBF神经网络的输入样本,实际值作为输出样本,采取一定的结构,然后对RBF神经网络进行训练,可以得到各层每个节点的权值和阈值.将GM(1,1)各模型对下一时刻或多个时刻的预测值作为神经网络的输入,得到相应的输出为下一时刻或多个时刻的最终预测值。RBF网络的学习方法选用最近邻聚类学习算法,它是一种在线自适应聚类学习算法,隐层单元的节点数不需要事先人为确定。

3 实例分析

根据山西水资源公报和山西水资源评价中的数据,通过对山西省工业用水量变化规律进行主成分分析并经过剔除非显著因子后,得到工业用水预测主要影响因素指标(表1)。

训练前必须将样本数据进行归一化处理[10],归一化公式为

xmax,xmin分别是样本数据同系列值中的最大值与最小值。

建立GM(1,1)预测模型。用RAGA优化模型中的参数α和μ,加速运行11次,得到模型参数的最优解为α=-0.023 64,μ=8.327 1,相应的最优化准则值F=1.843 2%,由模型求出还原值后,还必须对灰色模型的精度进行检验,采用后验差方法,原始数列x(0)及残差数列e的方差分别为S12,S2

2,

表2 模型精度Table 2 Precision of themodel

分别取9个指标的1988-2000年的GM(1,1)预测数据,得到9个长度为13的数据序列P,取相应的实际数据得到另9个长度为13的数据序列T。建立三层RBF神经网络,将预测值P作为神经网络的输入向量,实际值T作为神经网络输出向量对网络的初始权值、阈值及网络结构进行设定。

表1 山西工业用水指标Table 1 Indexes of Shanxi Province industrial using water

预测模型中网络训练样本输入层节点数m=9,输出层l=1。首先给定径向基函数的宽度r=1,网络运行的循环次数为6 963次,调整r的大小,当r=0.8时,循环4 917次,当r=0.5时,循环了1 675次。学习结束后,确定r=0.412 3,n=6,网络拓扑结构确定为9∶6∶1,采用Levenberg Marquardt训练算法[5],此算法是一种利用标准的数值优化技术的快速算法,其基本思路是:Hessin矩阵可由H=JTJ进行估算,梯度为 V(x)=JT(x)e(x),其中J为Ja cobian矩阵,包括网络误差项相对于权值或阈值的一阶微分,e(x)为网络误差项,则Levenberg Mar quardt算法权值及阈值的变化为Δx=-[JT(x)· J(x)+μI]-1J(x)e(x),相应的迭代式为xk+1=xk-[JT(x)J(x)+μI]-1JT(x)e(x)。最后计算得到自学习率为0.73,训练精度为10-4。预测结果见表3,拟合值与实测值的对比见图2。从1988-2000年的数据拟和情况可以看出网络的学习效果比较理想,拟合相对误差较小,模型的泛化能力较好,可用于需水量的预测。为了验证分析所选用的组合模型的精度和可靠性,另外分别利用GM(1,1)模型、RBF模型和基予最小二乘法的灰色神经网络模型[11,12]以相同基础数据对2001-2007年工业需水量分析预测,并与山西水资源公报中的统计值进行对比(见表3、图3)。

图2 组合模型RBF神经网络拟合值与实际值Fig.2 Fitting values and practical values of the portfolio model

图3 预测结果比较Fig.3 Com parison of predicted results

表3 预测结果比较Table 3 Comparison of predicted results

4 结 语

通过组合模型在山西工业需水量预测方面的实例应用分析可以得出如下结论:

(1)基于RAGA的GM(1,1) RBF神经网络组合模型型具有相对较高的预测精度,明显优于单个传统模型的应用精度。

(2)RAGA代替传统的最小二乘法对GM(1,1)中的参数进行优化,可以避免陷入局部最优,实现全局寻优,相比基予最小二乘法的灰色神经网络模型提高了预测精度。

(3)组合模型具有良好的应用发展前景,但是如何充分利用单个模型的优点,摸清适用范围,有效组合扬长避短,优势互补,提高组合模型的工作效率,仍是需要深入研究探讨的问题,尤其是组合模型对长短系列数据的选用以及预测有效适用期限的确定。

[1] 刘俊萍,畅明琦.径向基函数神经网络需水预测研究[J].水文,2007,(10):11-15.(LIU Jun ping,CHANG Ming qi.Water demand prediction based on radial basis function neural network[J].Journal of China Hydrology,2007,(10):11-15.(in Chinese))

[2] 范堆相.山西省水资源评价[M].北京:中国水利水电出版社,2005.(FAN Dui xiang.Water Resources Assess ment for Shanxi Province[M].Beijing:ChinaWaterpow er Press,2005.(in Chinese))

[3] 朱明星,张德龙.RBF网络基函数中心选取算法的研究[J].安徽大学学报,2000,24(1):74-78.(ZHUMing xing,ZHANG De long.Study on the algorithms of selecting the radial basis function center[J].Journal of Anhui University Natural Science Edition,2000,24(1):74-78.(in Chinese))

[4] 张德丰.MATLAB神经网络应用设计[M].北京:机械工业出版社,2009.(ZHANGDe feng.Applied Design of Neural Network Based on MATLAB[M].Beijing:China Machine Press,2009.(in Chinese))

[5] 刘仁涛,付强,冯 艳,等.基于RAGA的灰色BP神经网络预测模型及其对三江平原地下水埋深的动态预测[J].系统工程理论与实践,2008,(5):171-176.

(LIU Ren tao,FU Qiang,Feng Yan,et al.Grey BP neural network model based on RAGA and its application of the deep groundwater in Sanjiang plain[J].Systems Engineering Theory&Practice,2008,(5):171-176.(in Chinese))

[6] 付强.数据处理方法及其农业应用[M].北京:科学出版社,2006.(FU Qiang.Data Management Method and Its Agricultural Application[M].Beijing:Science Press,2006.(in Chinese))

[7] 邢贞相,付强,孙兵.实码加速遗传算法在天然河道水面线计算中的应用[J].灌溉排水学报,2003,(5):61-62.(XING Zhen xiang,FU Qiang,SUN Bing.Appli cation of real coding based on accelerating genetic algo rithm to calculating water surface curves of natural water courses[J].Journal of Irrigation and Drainage,2003,(5):61-62.(in Chinese))

[8] 李祚泳,张 明,邓新民.基于遗传算法优化的GM(1,1)模型及效果检验[J].系统工程理论与实践,2002,22(8):136-139.(LI Zuo yong,ZHANG Ming,DENG Xin ming.Optimal gray GM(1,1)model based on genetic algorithm and its verification[J].Systems Engineering Theory&Practice,2002,22(8):136-139.(in Chi nese))

[9] 刘 勇,康立山,陈毓屏.非数值并行算法(第二册)遗传算法[M].北京:科学出版社,2000.(LIU Yong,

KANG Li san,CHENG Yu ping.Non numerical Parallel Algorithm(Volume 1)Genetic Algorithm[M].Beijing:Science Press,2000.(in Chinese))

[10]孙 健,申瑞民.一种新颖的径向基函数RBF网络学习算法[J].计算机学报,2003,26(11):1562-1567.

(SUN Jiang,SHEN Rui ming.An original RBF network learing algorithm[J].Chinese Journal of Computers,2003,26(11):1562-1567.(in Chinese))

[11]李 斌,许仕荣,柏光明,等.灰色 神经网络组合模型预测城市用水量[J].中国给水排水,2002,18(2):66-68.(LI Bin,XU Shi rong,BAIGuang ming,et al.Application of Grey neural network on forecasting city wa ter[J].China Water&Wastewater,2002,18(2):66-68.(in Chinese))

[12]陆 琦,郭宗楼,姚 杰.灰色神经网络模型在湖泊水质预测中的应用[J].农机化研究,2004,(3):160-161.(LU Qi,GUO Zhong lou,YAO Je.Application of Grey neural networksmodel on forecasting the water qual ity[J].Journal of Agricultural Mechanization Research,2004,(3):160-161.(in Chinese))

(编辑:周晓雁)

2.National Engineering Research Center of System Simulation Technology Application,Beijing 100854,China)Abstract:A GM(greymodel)(1,1) RBF(radial basis function)model based on RAGA(real coded accelerating genetic algorithm)has been established.There exist conspicuously systematical deviations when we are fitting the data using the traditional GM(1,1)model.But the shortcoming has been overcome by the new model.Themodel has the following advantages:Firstly,it can hold the certainty of the data;what’smore,the advantages in the un certainty domain in neural network are interfused.The predicted results indicated that it ismore precise than the traditionalmethods.The scientific rationality of portfolio forecastmodel used formedium and long term forecast re spectively is verified.The resultwill provide a reference in making policy.

Water Demand Prediction M odel Constructed by GM(1,1) RBF Portfolio Neural Network Based on RAGA

SHAO Lei1,ZHOU Xiao de1,YANG Fang ting2,HAN Jun2
(1.Xi’an University of Technology,Xi’an 710048,China;

RAGA;GM(1,1);radial basis function neural network;portfolio prediction;Shanxi Province

TV211.1

A

1001-5485(2010)05-0029-05

2009 06 09;

2009 08 10

山西省水利厅基金项目(LZC08 003);渭河水专项(2009zx07212 002 001)

邵 磊(1981 ),男,山东枣庄人,博士研究生,主要从事水资源系统研究,(电话)13991933571(电子信箱)shaolei1981@163.com。

猜你喜欢
神经网络节点预测
无可预测
黄河之声(2022年10期)2022-09-27 13:59:46
CM节点控制在船舶上的应用
选修2-2期中考试预测卷(A卷)
选修2-2期中考试预测卷(B卷)
Analysis of the characteristics of electronic equipment usage distance for common users
基于AutoCAD的门窗节点图快速构建
神经网络抑制无线通信干扰探究
电子制作(2019年19期)2019-11-23 08:42:00
不必预测未来,只需把握现在
基于神经网络的拉矫机控制模型建立
重型机械(2016年1期)2016-03-01 03:42:04
复数神经网络在基于WiFi的室内LBS应用