ML神经元网络自适应同步的抗扰特性研究

武翠霞 张盼盼 郭磊 常小龙

摘要 为了分析噪声环境下生物神经元网络信息处理的抗扰机理，基于STDP（Spike-Timing Dependent Plasticity）突触可塑原理，构建了具有自学习特性的ML（Morris-Lecar）神经元网络模型。给出了定量分析神经元网络瞬时放电同步程度的数学方法，对网络的瞬时放电同步程度和放电频率进行对比分析。仿真结果展示了，ML神经元网络通过STDP突触的学习，从随机放电逐渐进入同步放电状态，消除了噪声干扰，呈现出自适应抗扰特性。结果表明，神经元网络可以利用同步放电消除噪声干扰，通过突触学习可以适应外部干扰环境。

关 键 词 自适应;神经元网络同步;噪声;抗扰;神经信息处理

中图分类号 TP802;O322 ;Q189     文献标志码 A

Abstract To analyze the mechanism of reliable information processing of neural network in noisy environment， the Morris-Lecar neuronal network models with self-learning properties were constructed based on the principle of Spike-Timing Dependent Plasticity（STDP）. This paper presents a mathematical method for making a quantitative analysis of the degree of instantaneous discharge synchronization in neural networks and makes a comparative analysis of the degree of instantaneous discharge synchronization and discharge rate. Simulation results show that ML neural network gradually changes from random discharge to synchronous discharge through STDP synapse learning， which eliminates noise interference and presents adaptive anti-interference. The conclusion is that the neuronal network can depress the noises with synchronized firing activities and adapt external interference environment through STDP mechanism in the process of information processing.

Key words self-adaptive; synchronization of neuronal network; noise; anti-interference; neural information processing

噪聲存在于神经信息处理的各个环节[1]，生物电磁效应的研究结论也说明电磁辐射同样能够影响神经功能[2] 。但事实表明神经系统具有很强的适应能力，可在很强噪声环境下仍保持自身功能，这对电子信息系统的抗扰设计具有借鉴意义。

2010年Tabareau等[3]首次利用数学方法证明了平衡网络中非线性单元之间同步可以抑制噪声干扰。2011年Bouvrie等[4]的研究表明同步可能是神经元网络消除噪声干扰的一种重要机制。 2014年常小龙等[5-6]利用数值仿真展示了神经元网络可以利用同步在很强噪声或脉冲干扰环境下恢复放电信息。上述研究中，均假设神经元之间的耦合强度固定，而神经元网络自适应抑制噪声干扰的问题还鲜有报道。

国内外很多学者对神经元网络的自适应同步进行了研究[7-8]，主要是通过自适应控制方法实现网络的同步放电。2012年Yan等[9]提出了一种自适应突触学习规则，利用该学习规则使得非对称网络自动达到同步状态，无需引入控制器参数。 2016年赵万钰[10]研究了神经振子集群的同步行为，STDP机制耦合变化可以增强同步。目前开展的自适应同步相关研究中，网络一般不引入噪声，或仅研究了自适应同步方法对噪声的鲁棒性问题。本文在自适应同步概念的基础上，进一步研究了神经元网络自适应抑制噪声干扰的问题，对于理解神经元网络如何适应干扰环境、如何执行可靠信息处理具有重要的意义。

1 自适应ML神经元网络模型构建

突触的可塑性是神经系统学习的基础，也是神经系统适应环境的一个重要生物机制。STDP实际上是Hebb假设的延伸，它给出了突触强度的变化与神经元放电时间之间的定量关系，为神经元之间建立联系提供了一种简单算法。因此，本文利用STDP突触模型构建ML神经元网络模型。

1.1 ML神经元模型

ML模型是根据北极企鹅肌肉纤维的放电活动建立的神经元电生理模型，其动力学方程描述如下：

图1给出了刺激信号I与神经元放电频率之间的关系。在一定范围内，神经元放电频率与刺激信号的强度之间具有一一对应关系。虽然神经信息编码方式充满争论，包括频率编码、时间编码，时空编码等。但在上述一一对应的关系约束下，可以认为ML神经元的放电频率编码了刺激信号强弱的相关信息。图2给出了I = 0.08 μA/ cm2时，ML神经元的放电波形，其放电频率f = 133 Hz。本文是在频率编码的范围内对ML神经元网络自适应同步的抗扰特性进行研究。

1.2 基于STDP的ML神经元网络模型

基于ML神经元模型和STDP学习机制，构建的ML神经元网络模型动力学方程如下：

式中：N是神经元数目;[xi]表示第i个神经元的膜电位;网络中所有神经元的参数是相同的，因此该网络是全同ML神经元网络;神经系统中的噪声不可避免，神经元网络中加入高斯噪声[ξi（t）]模拟噪声环境，其均值为μ，方差为D，神经元之间的噪声相互独立;[Wji]表示神经元j到i方向的突触强度（或突触传递效率）。随着时间的变化，[Wji]的值根据STDP机制不断更新。STDP学习机制的数学描述如下：

式中：[A+]和[A-]分别表示了突触增强和突触减弱幅度，也即学习速率;[τ+]和[τ-]分别表示突触增强和突触减弱时，观察神经元放电活动的时间窗;Δt表示神经元j与神经元i之间的放电时间差，Δt<0表示突触前神经元j的放电时间先于突触后神经元i，Δt>0表示突触前神经元j放电时间晚于突触后神经元i。

在相应的时间窗内，根据2个神经元放电时间差确定突触强度的变化量[ΔWji]。经过第k+1次更新后突触强度可以写成

因此，通过引入STDP突触可塑机制，ML神经元网络具有了自组织学习能力。突触强度根据前后神经元的放电状态实现自适应调节。同时，为了对神经元网络自适应同步的抗扰特性进行研究，在网络模型中引入较强的噪声干扰模拟神经系统的噪声环境。

2 自适应同步抗扰的数值仿真实验

利用经典四阶龙格库塔算法求解ML神经元网络模型，算法步长step = 0.01。所有神经元之间突触强度的初值[Wji]= 0.001，学习速率[A+]= 0.003，[A-]= 0.000 5。數值仿真时取突触增强的学习速率[A+]大于突触减弱的学习速率[A-]，这样更有利于神经元网络进入同步放电状态。时间窗[τ+]=[τ-]= 5 ms。噪声均值μ = 0，方差D = 1，刺激信号I = 0.08 μA/cm2。刺激信号可以在[0.07， 0.2]范围内任意取值，这里以I = 0.08为例进行说明。神经元的信噪比SNR（Signal to Noise Ratio）为-21.9 dB（这里SNR = 10lg（[Ps]/[Pn]），[Ps]和[Pn]表示刺激信号和噪声的功率。不失一般性，令神经数目N = 50。

2.1 无噪声的ML神经元网络放电状态分析

作为参考，首先分析无噪声环境下神经元网络的放电状态。令I = 0.08 μA/cm2，D = 0。50个全同ML神经元的放电时间如图3所示。网络中所有神经元保持完全同步的放电状态，且放电时间间隔稳定在7.49 ms，即网络的同步放电频率为f = 133 Hz。不妨假设ML神经元网络用f = 133 Hz的同步放电频率编码了刺激强度，即I的大小。

2.2 ML网络自适应同步的抗扰特性分析

在神经元网络模型中加入高斯噪声，令D = 1， I = 0.08，SNR = 21.9 dB。首先分析没有STDP学习机制时神经元网络的放电状态。关闭STDP学习机制，保持所有[Wji]= 0.001。由于神经元之间突触强度很弱，网络处于十分松散的耦合状态，所有神经元的放电时间如图4所示。在强噪声干扰环境下，所有的神经元都处于随机放电状态。在这种放电状态下神经元网络无法表示刺激I的强度信息。

在ML神经元网络中引入STDP机制后的仿真结果如图5和图6所示。在t = 40 ms处启动STDP学习机制。图5给出了STDP学习过程中网络中所有神经元的放电时间，图6给出了神经元1和神经元3的放电波形图。从图5和图6的结果可以看到，在没有开始STDP学习之前神经元处于随机放电状态。40～80 ms内，神经元网络逐渐从随机状态进入同步放电状态。t = 80 ms以后，噪声环境下ML神经元网络同步放电时间间隔也逐渐趋近于图3所示的无噪声网络同步放电时间间隔，从而达到了消除噪声干扰的效果。

在STDP学习过程中，可以利用神经元网络的瞬时平均膜电位差和放电频率这2个指标量化分析同步放电状态和抗扰特性。瞬时平均膜电位差的（average membrane potential difference ， AMPD）定义如下：

式中：[xi（t）-xj（t）]表示t时刻神经元i和神经元j之间膜电位差;N表示神经元数目。瞬时平均膜电位差反映了t时刻神经元网络放电同步程度。AMPD（t）值越小，t时刻神经元之间放电同步程度越高。

ML神经元网络自适应学习过程中，瞬时平均膜电位差变化曲线如图7所示。t = 40 ms启动STDP学习机制，AMPD值快速减小，神经元网络从随机放电逐渐进入同步放电。t > 80 ms后，AMPD开始缓慢减少，其值也趋近于0，神经元网络基本进入同步放电状态。

利用神经元放电频率可直观分析网络的抗扰特性。图8 给出了网络中第3个神经元的瞬时放电频率。其中，虚线表示了I = 0.08时无噪声的ML神经元放电频率f = 133 Hz。t < 60 ms时，受到噪声干扰，神经元3处于随机状态，放电频率随机变化。t > 80 ms后，神经元3的放电频率逐渐接近于图2给出的无噪声神经元的放电频率。对图5、图7和图8的综合分析可知，神经元网络在t = 80 ms时进入了同步放电状态，此时神经元3的放电频率代表了整个网络的同步放电频率。在t = [80 ms，120 ms] 的时间范围内，网络的同步放电频率f  > 200 Hz，高于图3给出的无噪声网络的同步放电频率f = 133 Hz。可见这段时间范围内网络并没有完全消除噪声的干扰。经过进一步的学习，神经元网络同步程度进一步提高，整个网络同步放电频率也逐渐接近于133 Hz。因此，经过STDP的学习，ML神经元网络最终消除了噪声的干扰，呈现出了自适应抗扰特性。

3 结语

本文利用ML神经元模型和STDP学习机制构建了一个具有自学习能力的神经元网络，并对强噪声环境下神经元网络的自适应同步的抗扰特性进行了分析，其主要结论如下。

1）基于STDP构建的Morris-Lecar神经元网络模型能够在噪声干扰环境下快速进入同步放电状态，具有较强的自适应抗扰能力。根据图4和图5的对比可知，神经元网络能够利用同步放电消除噪声干扰，恢复原有的编码信息。

2）神经元网络利用STDP突触学习，实现了自适应同步。这是一个自组织学习过程，体现了神经元网络统对外部干扰环境的自适应能力。

3）借鉴神经元同步对噪声的抑制作用可以设计一种自适应仿生同步时钟网络，提高时钟信号的抗干扰能力和环境适应能力。

参考文献：

[1]    FAISAL A A，SELEN L P J，WOLPERT D M. Noise in the nervous system[J]. Nature Reviews Neuroscience，2008，9（4）：292-303.

[2]    NEUFELD E，CASSAR? A M，MONTANARO H，et al. Functionalized anatomical models for EM-neuron Interaction modeling[J]. Physics in Medicine and Biology，2016，61（12）：4390-4401.

[3]    TABAREAU N，SLOTINE J J，PHAM Q C. How synchronization protects from noise[J]. PLoS Computational Biology，2010，6（1）：e1000637.

[4]    BOUVRIE J，SLOTINE J J. Synchronization and redundancy：implications for robustness of neural learning and decision making[J]. Neural Computation，2011，23（11）：2915-2941.

[5]    常小龍，丁国良，娄建安. 神经元网络同步放电的抗扰特性[J]. 上海交通大学学报，2014，48（10）：1485-1490.

[6]    常小龙，刘尚合，满梦华，等. HR神经元网络抗脉冲干扰特性的研究[J]. 华中科技大学学报（自然科学版），2014，42（6）：116-120.

[7]    CHEN C，LI L X，PENG H P，et al. Adaptive synchronization of memristor-based BAM neural networks with mixed delays[J]. Applied Mathematics and Computation，2018，322：100-110.

[8]    SONG Y F，SUN W. Adaptive synchronization of stochastic memristor-based neural networks with mixed delays[J]. Neural Processing Letters，2017，46（3）：969-990.

[9]    YAN C K，WANG R B. Non-identical neural network synchronization study based on an adaptive learning rule of synapses[J]. Chinese Physics Letters，2012，29（9）：090501.

[10]  赵万钰. 具有突触可塑性耦合神经振子集群相响应同步[D]. 合肥：合肥工业大学，2016.

[责任编辑    杨    屹]