许昌职业技术学院机电工程系 张亮亮 马斋爱拜
人工神经网络(Artificial Neural Network,简称ANN)是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络。它是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。它实际上是由大量简单元件相互连接而成的复杂网络,具有高度的非线性,能够进行复杂的逻辑操作和非线性关系实现的系统。
神经元是生物神经系统的最基本的单元,形状和大小各种各样。从组织结构方面看,各种神经元有其共性。神经元由细胞体、树突和突轴组成。
考虑到输入信号的影响要持续一段时间(毫秒级),因此,神经元的整合功能是一种时空整合。当神经元的时空整合产生的膜电位超过阈值时,神经元产生兴奋性电脉冲,处于兴奋状态;否则,无电脉冲产生,处于抑制状态。整合后产生的信号延着该细胞的轴突传递出去,并通过突触传递给其他神经细胞,神经细胞通过突触的连接形成神经网络。
神经元是人工神经网络的基本处理单元,是生物神经元的抽象、简化和模拟。抽象是从数学角度而言,模拟是以神经元的结构和功能而言。一般形式神经元如图1所示。
神经网络结构和工作机理基本上是以人脑的组织结构和活动规律为背景的,它反映了脑的某些基本特征,但并不是要对人脑部分的真正实现,可以说它是某种抽象、简化或模仿。
如果将大量功能简单的形式神经元通过一定的拓扑结构组织起来,构成群体并行分布式处理的计算结构,那么这种结构就是人工神经网络,在不引起混淆的情况下,统称为神经网络。
感知机模型由感知层S(Sensory)、连接层A(Assocation)、反应层R(Response)三层构成。
图1 形式神经元模型
感知机是人们为了研究大脑的存贮、学习和认识过程而提出的一种神经网络模型基本感知机是一个两层网络,分为输入层和输出层,每层可由多个处理单元构成,输入层单元接收外部输入模式,并传递给相连的输出层单元;输出层单元对所有输入值加权求和,经阈值性传递函数产生一组输出模式。通常输入、输出模式用二进制表示。两层之间为全互连方式,即输入层各单元与输出层各单元均有连接,且两层之间的连接权值是可调的。
进行程序设计的第一步就是初始化,对感知器神经网络的初始化可采用MATLAB 7.O神经网络工具箱中的init()函数。使用init(net)函数可以得到一个已经初始化的神经网络,该网络的权值和阀值是按照网络初始化函数来进行调整的,而网络的初始化函数是由NET.initFcn设定的,其参数是由Net.initParam指定的。
BP网络(Backpropagation NN)是一种单向传播的多层前向网络。网络除输入输出节点外,还有一层或多层的隐层节点,同层节点中没有任何耦合。输入信号从输入层节点依次传过各隐层节点,然后传到输出节点,每一层节点的输出只影响下一层节点的输出。其节点单元特性(传递函数)通常为Sigmoid型,但在输出层中,节点的单元特性有时为线性。
一个基本的神经元模型,它具有R个输入,每个输入都通过一个适当的权值w与神经元相连,BP网络中基本神经元的激活函数必须处处可微,所以,经常使用的是S型的对数或正切激活函数或线性函数。
在实际应用中,原始的BP算法很难胜任,因此出现了很多的改进算法。BP算法的改进主要有两种途径,一种是采用启发式学习法,另一种则是采用更有效的优化算法。
在神经网络工具箱中,函数trainbpx()采用动量法和学习速率自适应调整两种策略,从而提高了学习速度并增加了算法的可靠性,动量法降低了网络对于误差曲面局部细节的敏感性,有效地抑制了网络陷于局部极小;自适应调整学习速率有利于缩短学习时间。
本文通过对人工神经网络的方法及应用做了系统的阐述,通过分析与研究感知器网络、BP神经网络作者得出以下结论:
感知器是最早提出的一种神经网络模型,它具有简单,易学易理解的优点,是我们初学人工神经网络时首先接触到的一类网络模型。但是它有很大的局限性,如只能对线性可分的输入向量进行分类;当感知器神经网络的所有输入样本中存在奇异的样本,即该样本向量同其他所有的样本向量比较起来特别大或特别小时,网络训练花费的时间将很长。
BP神经网络模型是在人工神经网络的实际应用中很流行的一种网络模型,它也是前向网络的核心部分。BP网络有很强的映射能力,其主要用于:模式识别、函数逼近、数据压缩。
[1]楼顺天,陈生潭,雷虎民.MATLAB5.X程序设计语言[M].西安电子科技大学出版社,2003,10.
[2][美]A.N.米歇尔,刘德荣著.张化光,季策,王台山译.递归人工神经网络的定性分析和综合[M].科学出版社,2004,7.
[3]索兴梅,王崇桃.人工神经网络在农业中的应用研究[J].计算机与农业,2002(2):6-7.