具有时变权矩阵的离散Hopfield神经网络的稳定性

2015-12-22 11:03盖明久崔世维
海军航空大学学报 2015年5期
关键词:对角时变广义

周 刚,盖明久,崔世维

(海军航空工程学院a.基础部;b.研究生管理大队,山东烟台264001)

具有时变权矩阵的离散Hopfield神经网络的稳定性

周 刚a,盖明久a,崔世维b

(海军航空工程学院a.基础部;b.研究生管理大队,山东烟台264001)

研究了以并行工作模式进行演化的具有时变连接权矩阵的离散Hopfield神经网络,得到了判定网络稳定的2个充分条件,改进了已有结果。

离散Hopfield神经网络;连接权矩阵;对角占优矩阵;稳定性

1982 年,美国加州理工学院物理学家J.J.Hopfield教授开创性地提出了如下的离散神经网络模型[1]:

式(1)中:θi为阈值;wij为连接权重值;Xi取值-1或+1。

离散Hopfield神经网络在模式识别、联想记忆、图像处理和组合优化等方面具有广泛的应用[1-2]。由于在各种应用中都需要网络稳定,因而离散Hopfield神经网络的稳定性分析引起了人们的极大关注,并取得了众多研究成果。而Hopfield在文献[3]中引入的能量函数,是研究神经网络稳定性的重要工具。

离散Hopfield神经网络的工作演化方式有3种:串行方式、并行方式和部分并行方式。文献[3-5]研究了连接权矩阵对称且网络在串行和并行方式下工作演化的稳定性;文献[6-8]在此基础上研究了权矩阵是非对称情况下网络稳定性;文献[9]提出了部分并行演化方式,给出了一些稳定的条件;文献[10-11]进一步研究网络的不同工作演化方式,推广了相关的结论;文献[12]研究了连接权矩阵为时变情况下网络的稳定性。

本文在文献[11-12]的基础上,研究具有时变连接权矩阵、以并行方式进行工作演化的离散Hopfield神经网络,运用对角占优、广义半正定等矩阵的性质给出其稳定性的充分条件,得到了一些新的结果。

1 预备工作

记X(t)=(X1(t),X2(t),…,Xn(t))T,θ=(θ1,θ2,…,θn)T,W(t)=(wij(t))n×n,则网络(1)推广到时变连接权形式:

式(2)可写成矩阵形式:

由式(2)可得,对于i=1,2,…,n,

由于Xi(t)∈{-1,1},且ΔXi(t)=Xi(t+1)-Xi(t),所以ΔXi(t)∈{-2,0,2}。当 ΔXi(t)=-2时,Xi(t+1)=-1,Xi(t)=1,故Xi(t+1)ΔXi(t)≥0。再根据式(4),可得

类似可以验证,在各种取值情况下总有式(5)成立。于是有

为研究神经网络的稳定性,首先给出如下定义及引理。

则称W为严格行或列对角占优矩阵(W为行或列对角占优矩阵)。若W既是(严格)行对角占优又是(严格)列对角占优的,则称W为(严格)对角占优矩阵。

若存在正对角矩阵P=diag(p1,p2,…,pn),使得W满足

则称W为广义严格行或列对角占优矩阵(广义行或列对角占优矩阵)。若W既是广义(严格)行对角占优又是广义(严格)列对角占优的,则称W为广义(严格)对角占优矩阵。

证明:不妨设W为广义列对角占优的(W为广义行对角占优的证明类似),则存在正对角矩阵P=diag(p1,p2,…,pn),使得:

令Dx=diag(d1,d2,…,dn),则

再由式(9)即得xTDxWx≥0,即W为广义半正定矩阵。

2 主要结果

定理:对于具有时变权矩阵函数的离散Hopfield神经网络,如果W(t)=A(t)+B(t)+C(t),并且满足:

1)A(t)是广义半正定矩阵,B(t)是广义列对角占优矩阵,C(t)是广义行对角占优矩阵;

则神经网络并行稳定。

证明:构造能量函数

在式(10)的基础上,引入含C(t)的项并整理得:

下面分2种情况讨论分析。

1)当ΔX(t)=0时,根据式可知

由于ΔA(t)、ΔB(t)为广义行(或列)对角占优阵,不妨设ΔA(t)、ΔB(t)为广义列对角占优的(ΔA(t)、ΔB(t)为广义行对角占优的证明类似),所以分别存在正对角矩阵PΔA、PΔB,使定义2中的相应不等式成立。记:

根据式(12),可得下式成立

矩阵PΔAΔA(t)、PΔBΔB(t)为列对角占优,且、为正对角矩阵,所以仍为列对角占优。

进一步根据引理2可知存在 D1=D2=I(I为单位阵)使得是半正定的,即是半正定的。且又(P-1)T=P-1,则由式(13)可知:

2)当 ΔX(t)≠0时,由于Xi(t)∈{-1,1},且ΔX(t)=X(t+1)-X(t),则

将式(6)、(16)代入式(11),可得

矩阵ΔA(t)、ΔB(t)都是广义行(或列)对角占优矩阵,A(t)是广义半正定矩阵,B(t)是广义列对角占优矩阵,C(t)是广义行对角占优矩阵,类似情形1)中的证明,由式(17)可得

由式(14)、(18)及式(15)可知,神经网络(2)是并行稳定的。

推论:对于具有时变权矩阵函数的离散Hopfield神经网络,如果W(t)=A(t)+B(t)+C(t),若

1)A(t)是正定矩阵,B(t)是列对角占优矩阵,C(t)是行对角占优矩阵;

3 结论

本文研究了在连接权值矩阵为时变情况下的离散Hopfield神经网络并行工作演变的稳定性,得出了一些新的判定条件,改进了已有的结论。

[1]CHUA L O,YANG L.Cellular neural networks:applications[J].IEEE Transactions on Circuits and Systems,1988,35:1273-1290.

[2] LIU D.Cloning template design of cellular neural networks for associative memories.IEEE Transactions on Circuits and Systems—I:Fundamental Theory and Applications,1997,44:646-650.

[3] HOPFIELD J J.Neural networks and physical systems with emergent collective computational abilities[J].Proceedings of the National Academy of Science of the USA,1982,79(4):2554-2558.

[4]GULES E,FOGELMAN F,PELLEGRINO D.Decreasing energy functions as a tool for studying threshod networks[J].Discrete Applied Mathematics,1985,12(3):261-277.

[5]BRUCK J,GOODMAN J W.A generalized convergence theorem for neural networks[J].IEEE Transactions on Information Theory,1988,34(4):1089-1092.

[6] CENUSCHI FIAS B.Partial simultaneous updating in Hopfield memories[J].IEEE Transaction on Systems,Man,and Cybernetics,1989,19(4):887-888.

[7]XU Z B,KONG C P.Global convergence and asymptotic stability of asymmetric Hopfield neural networks[J].Journal of Mathematical Analysis and Applications,1995,191(3):405-427

[8]廖晓昕,昌莉,沈轶.离散Hopfield神经网络的稳定性研究[J].自动化学报,1999,25(6):721-727. LIAO XIAOXIN,CHANG LI,SHEN YI.Study on stability of discrete-time Hopfield neural networks[J].Acta Automatica Sinica,1999,25(6):721-727.(in Chinese)

[9]马润年,杨友社.离散Hopfield网络的稳定性[J].空军工程大学学报:自然科学版,2000,1(4):39-41. MA RUNNIAN,YANG YOUSHE.The stability of discrete Hopfield networks[J].Journal of Airforce Engineering University:Natural Science Edition,2000,1(4):39-41.(in Chinese)

[10]马润年,张强,许进.离散Hopfield神经网络的稳定性研究[J].电子学报,2002,30(7):1089-1091. MA RUNNIAN,ZHANG QIANG,XU JIN.Stability study of discrete Hopfield neural networks[J].Acta Electronica Sinica,2002,30(7):1089-1091.(in Chinese)

[11]马润年,张强,许进.不同演化模式的离散Hopfield网络的稳定性研究[J].系统工程与电子技术,2002,24(3):90-94. MA RUNNIAN,ZHANG QIANG,XU JIN.Stability study on the discrete Hopfield network in various updating modes[J].Systems Engineering and Electronics,2002,24(3):90-94.(in Chinese)

[12]LAI XIAOFENG,DIAO YONGFENG,LI MINGDONG,et al.Stability analysis of discrete Hopfield neural networks with quasi-diagonally dominant weight function matrix[C]//2010 International Colloquium on Computing,Communication,Control,and Management.Yangzhou,ISECS.2010:586-589.

Stability of Discrete Hopfield Neural Networks with Time-Variable Weighting Matrix

ZHOU Ganga,GAI Mingjiua,CUI Shiweib
(Naval Aeronautical and Astronautical University a.Department of Basic Science; b.Graduate Students’Brigade,Yantai Shandong 264001,China)

In this paper,a class of discrete Hopfield neural networks with variable weighting matrix in parallel update mode was studied.Several sufficient conditions were obtained to guarantee the stability of the neural networks.These re⁃sults improved and extended the existing results.

discrete Hopfield neural network;connection weight matrix;diagonally dominant matrix;stability

TP183

A

1673-1522(2015)05-0489-04

10.7682/j.issn.1673-1522.2015.05.018

2015-04-15;

2015-07-20

周 刚(1975-),男,副教授,硕士。

猜你喜欢
对角时变广义
L-拓扑空间广义模糊半紧性
广义仿拓扑群的若干性质研究*
|直接引语和间接引语|
从广义心肾不交论治慢性心力衰竭
一类特别的广义积分
会变形的忍者飞镖
基于马尔可夫时变模型的流量数据挖掘
基于时变Copula的股票市场相关性分析
基于时变Copula的股票市场相关性分析
对角占优矩阵的判定条件