基于免疫算法的RBF网络优化

2014-03-17 02:45夏跃伟
中国科技纵横 2014年1期
关键词:网络优化免疫

夏跃伟

【摘 要】 针对RBF的网络算法有多种,具有固定中心的RBF网络训练算法、梯度下降的RBF网络训练算法、最小二乘的RBF网络训练算法,无论哪种算法,对于求RBF网络隐节点的中心和标准参数都是比较困难的,如何使网络学习达到要求的精度,本文提出了基于免疫算法的RBF网络优化的改进算法,使隐节点的中心求解较为容易,有利于RBF网络有效的推广。

【关键词】 RBF 网络优化 免疫 基函数

1 RBF网络算法分析

设有一组数据对网络进行训练,训练的目标是使样本的输出误差

(式1)

(式2)

(式3)

最小或者达到所需精度要求,式1中为目标输出,为实际输出。RBF网络的学习算法一般包括两个不同的阶段:隐层径向基函数的中心的确定和径向基函数权值学习调整。RBF算法有多种,下面列出具有固定中心的RBF网络训练算法来进行说明:

具有固定中心的RBF网络训练算法步骤分五步:①从输入向量集中选择足够数量的RBF中心,确保输入向量空间的适当取样。②按式1计算RBF函数的扩展参数。③初始化网络输出层权值为一些小的随机值。④按式2计算机神经网络的输出。⑤按式3求解网络的权值。

2 RBF网络应用局限性

RBF网络在非线性映射上采用了作用函数是局部的径向基函数;具有唯一最佳逼近的特性,且无局部极小,但求RBF网络隐节点的中心和标准参数是个困难的问题;径向对称函数有多种,对于一组样本,如何选择合适的径向基函数,如何确定隐节点数,以使网络学习达到要求的精度,目前还没有彻底解决。

RBF网络在实际应用中,虽具有唯一最佳逼近的特性以及无局部极小的优点,但隐节点的中心难求,所以该网络难以广泛应用,针对RBF网络局限性我们提出一些改进的学习算法。

3 基于免疫算法的RBF网络优化

免疫系统是指具有免疫功能的组织机构。所谓免疫功能是机体对自身或者外来的抗原性物质(细菌、病毒)进行识别,通过产生免疫应答(如产生抗体)将其清除,以维持机体内环境相对稳定的一种生理反应,免疫系统具有记忆、学习和自组织调节功能,利用这些特性可以进行数据聚类分析,将其应用于RBF神经网络隐层数据中心的选择,不仅计算效率高而且无需预先制定RBF隐层数据中心的数量。在免疫系统中,抗原—抗体相互作用的强度用它们的亲和力来表示,设第个输入数据与第个数据中心之间的亲和力为即:=,,式中,为和之间的欧式距离,当=时,它们之间的亲和力为最大,而抗体与抗体之间的相互作用由它们的相似度来描述。确定隐层数据中心的免疫算法的具体步骤如下。

①对每一个输入数据以一个确定的数量进行随机初始化C数据集。

②计算C中所有RBF数据中心与的亲和力,选择亲和力最大的数据中心并复制个,产生一个RBF数据中心的复制集再应用下式对个相同的数据中心进行变异处理,形成变异集,为变异率。这一过程实际上是在有最大亲和力的数据中心附近进行搜寻以得到更有亲和力的数据中心,即:

③重新计算中个经过变异的数据中心与输入数据的亲和力,生成数据中心记忆集,去除中那些亲和力低于阀值 的中心,产生一个经过压缩的数据中心记忆集。

④计算中各记忆数据中心之间的相似度,并除去那些相似度大于阀值的数据中心,这一过程体现了免疫系统中的克隆抑制,若,转向步骤②,若,将全部输入数据产生的数据中心记忆集合并为,转向步骤⑤。

⑤计算中各个数据中心之间的相似度除去那些相似度大于阀值的数据中心,这一处理过程体现了免疫系统中的免疫抑制。

4 结语

通过对RBF网络进行免疫算法的优化,增强了抗原-抗体,抗体-抗体的亲和力,经过免疫算法的改进优化,使选择合适的径向基函数,确定隐节点数变的较为容易,使网络学习基本达到要求的精度,对于RBF网络广泛的应用,奠定了一定的理论基础。

参考文献

[1]Abarbanel H D,Talathi S S,Gibb L,et al.Synaptic plasticity with discrete state synapses[J].Phs Rev E,2005,72:037914.

[2]Eurich C W,Wilke S D.Multi-dimensional encoding strategy of spiking neurons[J].neural Comput.,2000,12:1519-1529.

[3]张辉,柴毅.《一种改进的RBF神经网络参数优化方法》.计算机工程与应用,2011,10.endprint

【摘 要】 针对RBF的网络算法有多种,具有固定中心的RBF网络训练算法、梯度下降的RBF网络训练算法、最小二乘的RBF网络训练算法,无论哪种算法,对于求RBF网络隐节点的中心和标准参数都是比较困难的,如何使网络学习达到要求的精度,本文提出了基于免疫算法的RBF网络优化的改进算法,使隐节点的中心求解较为容易,有利于RBF网络有效的推广。

【关键词】 RBF 网络优化 免疫 基函数

1 RBF网络算法分析

设有一组数据对网络进行训练,训练的目标是使样本的输出误差

(式1)

(式2)

(式3)

最小或者达到所需精度要求,式1中为目标输出,为实际输出。RBF网络的学习算法一般包括两个不同的阶段:隐层径向基函数的中心的确定和径向基函数权值学习调整。RBF算法有多种,下面列出具有固定中心的RBF网络训练算法来进行说明:

具有固定中心的RBF网络训练算法步骤分五步:①从输入向量集中选择足够数量的RBF中心,确保输入向量空间的适当取样。②按式1计算RBF函数的扩展参数。③初始化网络输出层权值为一些小的随机值。④按式2计算机神经网络的输出。⑤按式3求解网络的权值。

2 RBF网络应用局限性

RBF网络在非线性映射上采用了作用函数是局部的径向基函数;具有唯一最佳逼近的特性,且无局部极小,但求RBF网络隐节点的中心和标准参数是个困难的问题;径向对称函数有多种,对于一组样本,如何选择合适的径向基函数,如何确定隐节点数,以使网络学习达到要求的精度,目前还没有彻底解决。

RBF网络在实际应用中,虽具有唯一最佳逼近的特性以及无局部极小的优点,但隐节点的中心难求,所以该网络难以广泛应用,针对RBF网络局限性我们提出一些改进的学习算法。

3 基于免疫算法的RBF网络优化

免疫系统是指具有免疫功能的组织机构。所谓免疫功能是机体对自身或者外来的抗原性物质(细菌、病毒)进行识别,通过产生免疫应答(如产生抗体)将其清除,以维持机体内环境相对稳定的一种生理反应,免疫系统具有记忆、学习和自组织调节功能,利用这些特性可以进行数据聚类分析,将其应用于RBF神经网络隐层数据中心的选择,不仅计算效率高而且无需预先制定RBF隐层数据中心的数量。在免疫系统中,抗原—抗体相互作用的强度用它们的亲和力来表示,设第个输入数据与第个数据中心之间的亲和力为即:=,,式中,为和之间的欧式距离,当=时,它们之间的亲和力为最大,而抗体与抗体之间的相互作用由它们的相似度来描述。确定隐层数据中心的免疫算法的具体步骤如下。

①对每一个输入数据以一个确定的数量进行随机初始化C数据集。

②计算C中所有RBF数据中心与的亲和力,选择亲和力最大的数据中心并复制个,产生一个RBF数据中心的复制集再应用下式对个相同的数据中心进行变异处理,形成变异集,为变异率。这一过程实际上是在有最大亲和力的数据中心附近进行搜寻以得到更有亲和力的数据中心,即:

③重新计算中个经过变异的数据中心与输入数据的亲和力,生成数据中心记忆集,去除中那些亲和力低于阀值 的中心,产生一个经过压缩的数据中心记忆集。

④计算中各记忆数据中心之间的相似度,并除去那些相似度大于阀值的数据中心,这一过程体现了免疫系统中的克隆抑制,若,转向步骤②,若,将全部输入数据产生的数据中心记忆集合并为,转向步骤⑤。

⑤计算中各个数据中心之间的相似度除去那些相似度大于阀值的数据中心,这一处理过程体现了免疫系统中的免疫抑制。

4 结语

通过对RBF网络进行免疫算法的优化,增强了抗原-抗体,抗体-抗体的亲和力,经过免疫算法的改进优化,使选择合适的径向基函数,确定隐节点数变的较为容易,使网络学习基本达到要求的精度,对于RBF网络广泛的应用,奠定了一定的理论基础。

参考文献

[1]Abarbanel H D,Talathi S S,Gibb L,et al.Synaptic plasticity with discrete state synapses[J].Phs Rev E,2005,72:037914.

[2]Eurich C W,Wilke S D.Multi-dimensional encoding strategy of spiking neurons[J].neural Comput.,2000,12:1519-1529.

[3]张辉,柴毅.《一种改进的RBF神经网络参数优化方法》.计算机工程与应用,2011,10.endprint

【摘 要】 针对RBF的网络算法有多种,具有固定中心的RBF网络训练算法、梯度下降的RBF网络训练算法、最小二乘的RBF网络训练算法,无论哪种算法,对于求RBF网络隐节点的中心和标准参数都是比较困难的,如何使网络学习达到要求的精度,本文提出了基于免疫算法的RBF网络优化的改进算法,使隐节点的中心求解较为容易,有利于RBF网络有效的推广。

【关键词】 RBF 网络优化 免疫 基函数

1 RBF网络算法分析

设有一组数据对网络进行训练,训练的目标是使样本的输出误差

(式1)

(式2)

(式3)

最小或者达到所需精度要求,式1中为目标输出,为实际输出。RBF网络的学习算法一般包括两个不同的阶段:隐层径向基函数的中心的确定和径向基函数权值学习调整。RBF算法有多种,下面列出具有固定中心的RBF网络训练算法来进行说明:

具有固定中心的RBF网络训练算法步骤分五步:①从输入向量集中选择足够数量的RBF中心,确保输入向量空间的适当取样。②按式1计算RBF函数的扩展参数。③初始化网络输出层权值为一些小的随机值。④按式2计算机神经网络的输出。⑤按式3求解网络的权值。

2 RBF网络应用局限性

RBF网络在非线性映射上采用了作用函数是局部的径向基函数;具有唯一最佳逼近的特性,且无局部极小,但求RBF网络隐节点的中心和标准参数是个困难的问题;径向对称函数有多种,对于一组样本,如何选择合适的径向基函数,如何确定隐节点数,以使网络学习达到要求的精度,目前还没有彻底解决。

RBF网络在实际应用中,虽具有唯一最佳逼近的特性以及无局部极小的优点,但隐节点的中心难求,所以该网络难以广泛应用,针对RBF网络局限性我们提出一些改进的学习算法。

3 基于免疫算法的RBF网络优化

免疫系统是指具有免疫功能的组织机构。所谓免疫功能是机体对自身或者外来的抗原性物质(细菌、病毒)进行识别,通过产生免疫应答(如产生抗体)将其清除,以维持机体内环境相对稳定的一种生理反应,免疫系统具有记忆、学习和自组织调节功能,利用这些特性可以进行数据聚类分析,将其应用于RBF神经网络隐层数据中心的选择,不仅计算效率高而且无需预先制定RBF隐层数据中心的数量。在免疫系统中,抗原—抗体相互作用的强度用它们的亲和力来表示,设第个输入数据与第个数据中心之间的亲和力为即:=,,式中,为和之间的欧式距离,当=时,它们之间的亲和力为最大,而抗体与抗体之间的相互作用由它们的相似度来描述。确定隐层数据中心的免疫算法的具体步骤如下。

①对每一个输入数据以一个确定的数量进行随机初始化C数据集。

②计算C中所有RBF数据中心与的亲和力,选择亲和力最大的数据中心并复制个,产生一个RBF数据中心的复制集再应用下式对个相同的数据中心进行变异处理,形成变异集,为变异率。这一过程实际上是在有最大亲和力的数据中心附近进行搜寻以得到更有亲和力的数据中心,即:

③重新计算中个经过变异的数据中心与输入数据的亲和力,生成数据中心记忆集,去除中那些亲和力低于阀值 的中心,产生一个经过压缩的数据中心记忆集。

④计算中各记忆数据中心之间的相似度,并除去那些相似度大于阀值的数据中心,这一过程体现了免疫系统中的克隆抑制,若,转向步骤②,若,将全部输入数据产生的数据中心记忆集合并为,转向步骤⑤。

⑤计算中各个数据中心之间的相似度除去那些相似度大于阀值的数据中心,这一处理过程体现了免疫系统中的免疫抑制。

4 结语

通过对RBF网络进行免疫算法的优化,增强了抗原-抗体,抗体-抗体的亲和力,经过免疫算法的改进优化,使选择合适的径向基函数,确定隐节点数变的较为容易,使网络学习基本达到要求的精度,对于RBF网络广泛的应用,奠定了一定的理论基础。

参考文献

[1]Abarbanel H D,Talathi S S,Gibb L,et al.Synaptic plasticity with discrete state synapses[J].Phs Rev E,2005,72:037914.

[2]Eurich C W,Wilke S D.Multi-dimensional encoding strategy of spiking neurons[J].neural Comput.,2000,12:1519-1529.

[3]张辉,柴毅.《一种改进的RBF神经网络参数优化方法》.计算机工程与应用,2011,10.endprint

猜你喜欢
网络优化免疫
藏药对免疫系统调节作用的研究
早期肠内营养对急性重型颅脑外伤患者免疫及炎症指标的影响
运动与机体免疫能力关系研究综述
血清中细胞因子的检测在胃癌中的意义