摘 要:传统的BP神经网络存在着迭代缓慢、容易陷入局部极值而无法获得全局最优解等缺陷。在误差反向传播学习算法的基础上,对网络进行改进,采用正交V系统作为基底,得到权值直接确定模型。算例表明,模型达到预期效果。
关键词:V系统;权值直接确定;神经网络
中图分类号:TP181 文献标识码:A
Abstract:The traditional BP neural network has the defects of slow iteration,easy to fall into local extremum and unable to obtain global optimal solution.On the basis of the error back propagation learning algorithm,the network is improved,and the orthogonal V system is used as the base to obtain the weight direct determination model.The example shows that the model achieves the desired results.
Key words:BP Neural network;Weights-Direct-Determination;V system
1 绪论
BP(back propagation)神经网络是由Rumelhart和McClelland于1986年首先提出的一种前向性神经网络。自提出以来,该网络被应用于预测分析、分类、函数逼近、模式识别等应用场景。通过对CNKI、维普等数据库中的文献研究发现,大部分BP神经网络的研究都集中在BP神经网络的应用方面,对该网络在学习效率低、网络泛化能力差、容易陷入极小等方面避而不谈。另一方面,有相当一部分学者致力于BP神经网络算法的优化,如激活函数的选取、学习速率、学习步长的优化等,但鲜有对网络结构的研究。
根据Kolomogorov定理,具有三层结构的神经网络可以任意逼近一个在实轴闭区间上的连续函数。如果增加网络的深度,虽然能增加网络的学习能力,但会影响网络学习的速度。另一方面,隐含层神经元的数目的确定,目前只能依靠经验公式,没有一种统一的指导方法,更多的是靠运气。因此,传统的BP神经网络多采用三层拓扑结构。BP神经网络的拓扑结构如图1所示。
结论:权值迭代法受训练数据影响较大,由于训练数据是随机选取的,所以识别准确率不太稳定;权值直接確定法达到了预期效果,迭代步骤少,更加节省资源。
5 结语
目前,大多数学者对于BP神经网络的研究集中在算法的优化方面,比如把固定步长改为可变步长,在学习过程中采用遗传算法等。本文在BP神经网络结构的基础上,提出了一种采用正交V系统作为基底的权值直接确定方法,通过实例验证,该模型的评价效果达到了预期的要求。
参考文献:
[1]刘雪.一类新的完备正交系及其在图形图像处理中的应用[D].北京:北方工业大学,2007.
[2]殷奎喜,岸政七,许根稳.平滑化的正交型Walsh函数的构造及在广带域扩谱通讯中的应用.东南大学学报,1999,29(6):20-26.
[3]张雨浓,郭东生,谭宁.幂激励前向神经网络最优结构确定算法[J].计算机工程与应用,2011,47(2):29-31.
[4]张雨浓,劳稳超,余晓填,等.两输入幂激励前向神经网络权值与结构确定[J].计算机工程与应用,2012,48(15):102-106.
[5]杨文光.权值直接确定的三角型模糊前向神经网络[J].中山大学学报:自然科学版,2013,52(2):33-37.
基金项目:全国高等院校计算机基础教育研究会项目(2018-AFCEC-350);天津职业大学科研项目:权值直接确定神经网络在大数据处理的研究与应用
作者简介:崔媛(1978-),女,天津人,讲师,研究方向:应用统计。