利用SOM网络模型进行聚类研究

2014-07-23 01:37
网络安全技术与应用 2014年2期
关键词:判别函数权值神经元

杨 晨 闫 薇

(1.大连外国语大学软件学院 辽宁 116044;2.辽宁警官高等专科学校 辽宁 116036)

0 引言

脑科学的研究表明,人类大脑皮层中的细胞群存在着广泛地自组织现象。处于不同区域的神经元具有不同的功能,它们具有不同特征的输入信息模式,对不同感官输入模式的输入信号具有敏感性,从而形成大脑中各种不同的感知路径。并且这种神经元所具有的特性不是完全来自生物遗传,而是很大程度上依赖于后天的学习和训练。而本文所介绍的自组织特征映射网络(SOM)就是根据这种理论而提出的。

自组织映射(Self-Organizing Feature Maps,SOM)网络也称为 Kohonen网络,该模型是由芬兰的赫尔辛基大学神经网络专家Teuvo Kohonen于1981年提出,现在已成为应用最为广泛的自组织神经网络方法。Teuvo Kohonen认为处于空间中不同区域的神经元有不同的分工,当一个神经网络接受外界输入模式时,将会分为不同的反应区域,各区域对输入模式具有不同的响应特征。这种网络模拟大脑神经系统自组织特征映射的功能。它是一种竞争型神经网络,采用无监督学习算法进行网络训练,此网络广泛地应用于样本聚类、排序和样本检测等方面。

1 自组织特征映射网络(SOM)

1.1 SOM网络结构

从网络结构上来说,SOM网络最大的特点是神经元被放置在一维、二维或者更高维的网格节点上。SOM网络的具体模型为:

输入:n dimensions,X=[x1,x2,...,xn]T

输出:p nodes,Y=[y1,y2,...,yp]T

最普遍的自组织特征映射二维网格模型如图1所示。

SOM 网络的一个典型特性就是可以在一维或二维的处理单元阵列上,形成输入信号的特征拓扑分布,因此 SOM 网络具有抽取输入信号模式特征的能力。SOM网络一般只包含有一维阵列和二维阵列,但也可以推广到多维处理单元阵列中去。下面只讨论应用较多的二维阵列。

输入层是一维的神经元,具有N个节点,竞争层的神经元处于二维平面网格节点上,构成一个二维节点矩阵,共有M个节点。输入层与竞争层的神经元之间都通过连接权值进行连接,竞争层临近的节点之间也存在着局部的互联。SOM网络中具有两种类型的权值,一种是神经元对外部输入的连接权值,另一种是神经元之间的互连权值,它的大小控制着神经元之间相互作用的强弱。在SOM网络中,竞争层又是输出层。SOM网络通过引入网格形成了自组织特征映射的输出空间,并且在各个神经元之间建立了拓扑连接关系。神经元之间的联系是由它们在网格上的位置所决定的,这种联系模拟了人脑中的神经元之间的侧抑制功能,成为网络实现竞争的基础。

图1 SOM网格模型

1.2 SOM网络学习过程

SOM 网络的主要目的是将任意维数的输入转换为一维或二维的离散映射,并且以拓扑有序的方式自适应实现这个过程。

生物学基础实验表明,外界信息对于神经元的刺激并非是单一的,而是以某一细胞为中心的一个区域;并且刺激强度有强弱之分,大脑神经的刺激趋势和强度呈墨西哥草帽形状;神经元受刺激的强度以中心最大,随着区域半径的增大逐渐减弱;远离中心的神经元相反会受到抑制作用。根据这个原理,当某类模式输入时,输出层某节点(神经元)得到最大刺激而获胜,获胜者以及其周围节点的权值会向着输入模式向量的方向进行修正。随着输入模式的变化,相应获胜神经元也发生变化,网络即通过自组织的方式在大量样本数据的训练下,使得输出层特征图能够反映出输入样本数据的分布情况。

SOM网络采用的学习算法为无监督聚类法,它能将任意模式的输入在输出层映射成为一维或二维离散图形,并保持其拓扑结构不变。学习过程分为三个主要过程,分别是:

(1)竞争:对每个输入模式,网络中的神经元计算它们各自的判别函数的值。这个判别函数对神经元之间的竞争提供基础。具有判别函数最大值的特定神经元成为获胜者。

(2)合作:获胜神经元决定兴奋神经元的拓扑邻域的空间位置,从而提供相邻神经元合作的基础。

(3)权值调整:兴奋神经元通过对它们突触权值的适当调节以增加关于该输入模式的判别函数值,从而使得该神经元对以后相似的输入有一个增强的响应。

2 应用SOM网络进行聚类算法及程序运行结果

SOM 网络广泛地应用于样本聚类、排序和样本检测等方面。当训练过程完成之后,所有的权值都收敛。可以用下面的算法进行聚类。

(1)计算输入矢量x和所有的权值矢量wj,则有:

(2)寻找所有距离中的最小距离

(3)定义输出

下面是对SOM网络聚类的程序分别运行的结果,如图2、图3、图4所示。

图2 程序运行图

图3 程序运行图

图4 程序运行图

3 结束语

本文介绍了 SOM 网络的起源以及学习过程,运用算法进行SOM网络进行分类。最后利用一个程序实例运行出了SOM网络的运行过程。利用图形化的方式显示出了利用 SOM 网络进行分类的具体过程。

[1]秦立龙,余奇,王振宇.基于泛化理论的集成神经网络优化算法[J].计算机仿真,2013.1

[2]金以明.基于DEA和SOM的数字图书馆评价研究[J].情报科学,2011.1

[3]李春华,李宁,史陪军.自组织特征映射神经网络原理和应用研究[J].北京师范大学学报(自然科学版),2006.5

猜你喜欢
判别函数权值神经元
一种融合时间权值和用户行为序列的电影推荐模型
CONTENTS
Fisher判别法在个人信用风险评估中的应用
游乐设施事故与危险量化判别函数的构建
跃动的神经元——波兰Brain Embassy联合办公
探究上市公司财务预警的数学模型
基于权值动量的RBM加速学习算法研究
基于多维度特征权值动态更新的用户推荐模型研究
制造业上市公司财务预警研究
ERK1/2介导姜黄素抑制STS诱导神经元毒性损伤的作用