人工神经网络在预测中的应用现状与展望*

2023-12-29 15:08李正鹏潘承毅邬阳阳
科技创新与生产力 2023年10期
关键词:人工神经网络神经网络负荷

李正鹏,潘承毅,邬阳阳

(1.云南工商学院智能科学与工程学院,云南 昆明 650000;2.丽江文化旅游学院信息学院,云南 丽江 674100)

科学决策制定的前提是预测,但影响预测结果精确度的因素众多,在预测中不可避免地会出现预测结果不精确的情况。影响预测结果精确性的一个重要因素是预测方法,为了提高预测结果的精确度,一些学者不断改进和提出新的预测方法。这些预测方法大致可以分为定性预测方法和定量预测方法两大类,常见的定量预测方法有:时间序列分析法、回归分析法、灰色预测法、人工神经网络法以及组合预测法等[1]。其中,基于人工神经网络的预测方法不仅适用于处理大批量数据,还具有一定的鲁棒性和容错性,能更好地进行预测,在各个领域的预测中得到了广泛应用。伴随着人工智能的发展,新的神经网络算法也不断被提出,经典的人工神经网络模型也不断得到扩展和优化,基于不同类型神经网络的预测方法也不断地应用到预测中。一些研究学者对人工神经网络在预测中的应用现状进行了归纳总结。

彭显刚等[2]指出,径向基函数(RadialBasisFunction,RBF) 神经网络比传统的神经网络学习能力更强,预测结果的精确度也更高,在短期负荷预测中的应用更为广泛,并对短期负荷预测中的RBF神经网络应用进行了系统概述,从模型改进、负荷数据的筛选以及结合实际对神经网络进行优化这3 个方面对RBF 神经网络在短期负荷预测中的应用进行了探讨。张为梦[3]对短时道路交通流预测中的神经网络方法进行了总结,文献主要介绍了4 种神经网络的应用,即:基于误差反向传播(Back Propagation,BP) 神经网络模型、小波神经网络(Wavelet Neural Network,WNN)、RBF 神经网络、广义回归神经网络(Generalized Regression Neural Network,GRNN) 的预测方法在短时道路交通预测中的应用,提出了研究过程中存在的问题。主成分分析(Principal Component Analysis,PCA) 又称主分量分析,何慧等[4]以PCA-BP 神经网络预测方法、RBF 神经网络预测方法、WNN 神经网络预测方法、基于遗传算法的BP 网络预测方法、粒子群优化算法(Particle Swarm Optimization,PSO) 为分类标准,对人工神经网络在月降水量预测业务中应用进行概述,并重点总结和分析了神经网络在广西月降水量预测的应用。上述文献综述总结和分析了人工神经网络预测方法在某个具体领域中的应用,而关于人工神经网络预测方法的应用总结还不太全面,本文对常用的基于人工神经网络的预测方法和应用进行总结和分析,以期为研究者继续深入研究提供有益借鉴。

1 BP 神经网络在预测中的应用

1986 年,BP 神经网络这一模型被提出,该模型不仅具有较强的容错能力,同时还有比较好的非线性映射能力,在许多领域都得到了广泛应用。BP神经网络模型具体的学习过程是,输入的信号先经过隐含层处理,最后到输出层,输出的结果如果误差不符合要求,则将误差进行反向传播,并据此修改网络的阈值和权值,直到达到设定的标准或达到最大训练次数[5]。

周佳俊等[6]经研究发现,在农药残留预测中,预测模型的限制导致无法考虑多种因素(温度、降水量、施药时间等) 对农药降解的影响,针对这一问题,将BP 神经网络算法应用到农药残留的预测中,并结合主成分分析法对影响因子进行分析,得到的预测结果总拟合优度判定系数为0.962 05,有着较好的预测精度。苏颜等[7]认为,电力调度机构对短期负荷预测的精度要求越来越高,于是使用基于BP 神经网络的预测方法对电力负荷进行了短期预测,为进一步验证该方法的有效性和准确性,将预测结果同基于自适应算法、基于L-M 算法的预测结果进行对比,发现使用BP 神经网络方法进行预测能够得到更准确的预测结果。曾丽芳等[8]指出,股票数据同时具有时变性和非线性两个特征,而传统的时间序列预测方法无法较好地处理非线性数据,基于此,建立了BP 神经网络预测模型、ARI-MA(6,1,6) 预测模型对股票价格进行预测,将预测结果和使用PCA-BP 神经网络预测模型、GA-BP神经网络预测模型的预测结果进行对比,发现使用GA-BP 神经网络预测模型得到的结果具有更小的误差。

2 RBF 神经网络在预测中的应用

1988 年,Moody 和Darken 两位研究者设计了RBF 神经网络。RBF 神经网络性不仅有着很强的非线性拟合能力,同时学习收敛速度快,是一种性能良好的前向网络。RBF 神经网络包括输入层、隐含层和输出层3 层结构,隐含层将向量从低维度映射到高纬度,从而解决低维度线性不可分的问题。RBF 神经网络中,输入层到隐含层的空间映射是非线性的,从隐含层到输出层空间映射是线性的[9]。

刘银波等[10]对国内外船舶电力负荷预测进行了研究,发现早期的预测主要使用的是回归分析法与时间序列法这两种方法,于是设计了基于RBF 神经网络的预测方法,对选取研究对象的历史负荷数据进行分析,并通过仿真实验验证该方法的可靠性,发现相对误差在0.1~-0.2 之间,预测效果较好。王瑞等[11]考虑到积温效应对相似日的选择也有一定的影响,通过计算综合相似度来选择相似日,同时对RBF 神经网络在电力负荷预测中的应用进行了研究,发现以往的模型都是针对大样本数据,于是使用模糊C-means 算法对相似日样本进行处理,以此来优化RBF 神经网络的隐含层参数,将预测结果与其他预测结果进行对比,结果显示该方法提高了预测精确度。高磊等[12]指出,普通的PSORBF 神经网络算法比RBF 神经网络算法在处理数据时表现更好,但是无法避免出现局部最优的状况,基于此,将模拟退火算法、粒子群算法和RBF神经网络相结合,提出了一种混合PSO-RBF 神经网络预测模型,并对岩爆进行预测,将得到的预测结果和使用RBF 神经网络预测方法、普通的PSORBF 神经网络预测方法得到的预测结果进行对比,结果显示,基于混合PSO-RBF 神经网络预测模型的预测结果更为可靠。

3 WNN 在预测中的应用

1992 年,Zhang Qinghua 等正式提出了WNN 的概念,此神经网络是将小波分析理论和人工神经网络相结合的一种前馈神经网络。小波理论和人工神经网络的结合有两种方式,一是辅助性结合,二是紧密型结合[13]。WNN 和BP 神经网络相比,可以简化训练,在人工智能、机器人、统计学等很多领域都有着广泛的应用。

李明柱等[14]对暖通空调系统短期热负荷预测进行了研究,发现BP 模型在建筑负荷预测中已有广泛应用,但效果不理想,结合暖通空调负荷数据呈现的随机性和非线性,提出小波神经网络预测方法,通过小波分解与重构来提高拟合度,通过对比,WNN 预测方法的预测精度和稳定性都高于BP神经网络预测方法。郑方圆等[15]指出,传统机器学习算法进行回归训练时未考虑到突发情况对飞行到达时刻的影响,导致信息预测不准确,所以考虑采用ADS-B 数据来替换传统雷达数据,并采用WNN预测模型来进行模拟仿真,通过对预测值和实际值比较发现,WNN 预测模型能对突变数据做出快速反应,得到更准确预测数据。邝先验等[16]在进行公交到站时间预测的研究时发现,传统统计学方法、机器学习方法抗干扰能力差,无法对复杂多变的交通情况做出快速响应,因此提出天牛须(Beetle Antennae Search,BAS) 小波神经网络预测模型,该预测模型结合天牛须搜索算法,提高了寻优速度,对仿真实验结果进行比较发现,BAS-WNN 预测模型的预测精度和稳定性均强于WNN 预测模型和Elman 神经网络预测模型。

4 LSTM 神经网络在预测中的应用

长短时记忆网络(Long Short Term Memory Network,LSTM) 是一种特殊的RNN 模型,是Hochreiter 和Schmidhuber 在1997 年设计出来的,主要是解决RNN 模型中存在的梯度消失或梯度爆炸问题,提高解决长期依赖关系的能力[17]。

班文超等[18]指出,经典潮汐调和分析预测方法需要大量的数据支撑,在短期潮位预测中表现不好,针对这个问题,提出了深层神经网络LSTM 预测模型,并对长短期预测结果进行对此,结果显示,神经网络LSTM 预测模型在长短期预测中的精确度都很高,可以有效克服经典潮汐调和分析预测方法在短期预测中预测结果不准确的问题。李丽萍等[19]指出,无论是传统的时间序列方法还是传统的机器学习方法在股票加个预测中表现效果都不理想,同时考虑到股票数据的特性,建立了基于LSTM 神经网络的预测模型,将预测结果和BP 神经网络和Elman 神经网络的预测结果相比较,结果表明,基于LSTM 神经网络的预测模型预测结果更接近真实值。曹文治等[20]认为,传统预测方法计算简单,但计算结果的精确度不高,人工智能预测方法可以提高预测精度,同时考虑到水质指标浓度数据具有时序相关性,构建了EEMD-LSTM-SVR 组合预测模型,预测结果同单一的LSTM 神经网络预测方法的预测结果相比,具有更高的精确度。

5 CNN 在预测中的应用

1998 年,YannLecun 等人提出了Let Net 模型,标志着卷积神经网络(Convolutional Neural Networks,CNN) 的形成。CNN 成功的关键原因是采用了局部连接和权值共享方式,这种方式减少了权值的数量,降低了复杂度,同时还减少了过拟合的风险[21]。

陈建平等[22]指出,煤层底板突水受含水层、隔水层、开采条件等多种因素影响,并采用卷积神经网络模型对煤层底板突水进行预测,并将预测结果与基于BP 神经网络模型预测方法和基于LeNet-5模型预测方法得到的结果进行对比,可以看出,卷积神经网络预测模型的准确率和误差率都优于BP神经网络模型和LeNet-5 模型。王安义等[23]指出,以往对矿井巷道场强预测模型,包括三维射线跟踪法、单斜率和双斜率模型、基于支持向量机模型等预测效果都不理想,提出一种改进的CNN 场强预测模型,该模型在传统CNN 的卷积层后加入BN 层代替池化层,从而避免了网络的过度拟合,实现网络快速收敛,结果显示,改进的CNN 预测模型有效提高了预测精度。李珊珊等[24]经过研究得出,潜在蒸散量的准确性对灌溉决策起着关键作用,以往计算潜在蒸散量的P-M 方法、随机森林、广义回归神经网络估算等都存在一定局限性,针对这个问题,提出CNN-BiLSTM 融合模型,该模型结合了卷积神经网络在局部结构特征提取方面的优势以及双向长短期记忆网络对非线性时序优秀的处理能力,有效提高了蒸散量的预测精度。

6 总结与展望

通过对几类神经网络的特点或优点进行概述,重点对基于BP 神经网络、RBF 神经网络、WNN、LSTM 神经网络、CNN 预测方法的应用进行了归纳总结。通过总结和分析可以发现,很多神经网络模型都应用在了预测中,并取得了很好的预测效果。神经网络算法应用到预测中一般可以分为3 种类型:一是将神经网络模型直接应用到一种新的场景;二是将优化算法和神经网络结合进行预测;三是将神经网络模型和其它类型的评价模型结合,进行组合预测。

人工神经网络模型应用到预测中可以建立新的预测模型,得到的预测结果也更为准确。同时,神经网络可以处理大规模数据,这个特点使得神经网络在大数据时代中进行预测的应用更为广泛。深度学习理论还在不断发展,不断有学者对神经网络进行优化和改进,也不断有新的模型被提出,将这些模型及时引入到预测应用中可以创新预测方法,有时还可以得到更好的预测结果。另外,组合预测也是一个重要的研究方向,将神经网络和其他预测模型相结合,可以提高预测结果的精确度。

猜你喜欢
人工神经网络神经网络负荷
利用人工神经网络快速计算木星系磁坐标
神经网络抑制无线通信干扰探究
人工神经网络实现简单字母的识别
防止过负荷时距离保护误动新判据
主动降负荷才是正经事
基于神经网络的拉矫机控制模型建立
复数神经网络在基于WiFi的室内LBS应用
负荷跟踪运行下反应堆一回路控制系统仿真与验证
基于支持向量机回归和RBF神经网络的PID整定
Savitzky-Golay在含冲击负荷短期负荷预测中的应用