一种基于STDP机制的IF模型简化算法

2015-07-26 02:29刘贤锋左亚旻
微型电脑应用 2015年8期
关键词:权值脉冲神经元

刘贤锋,左亚旻

一种基于STDP机制的IF模型简化算法

刘贤锋,左亚旻

触弹性是指神经细胞之间连接强度的变化,突触前细胞和突触后细胞产生峰电位的时间差可以改变突触弹性,这个现象被称为“尖峰时间依赖性可塑性”,简称STDP。将STDP机制融合到传统的IF模型当中,改良后的模型可以更真实的拟合生物神经细胞的自然特性。本文以这种结合STDP机制的IF模型为基础,提出一个新的算法,并通过MATLAB进行仿真实验,实验结果表明该算法能够体现神经细胞的生理特性,具有更好的仿生功能。

神经网络;IF模型;STDP机制

0 引言

在生物学中,神经网络是指生物的神经元互相连接而形成的一个庞大复杂的网络,用于产生意识及生物的行为。近年来,由于人工智能的迅速发展,“人工神经网络”这一领域的研究越来越受到重视。顾名思义,人工神经网络是通过研究生物原型,建立模型的方法,从而模拟生物的思维方式,实现人工智能方面的应用。Integrate-and-fire模型(以下简称为IF模型)是一种主流且简化的生物神经元模型,它可以描述神经元输入和输出的关系。然而,生物对外界的刺激所做出的反应不是简单的输入输出关系,还需要进行“学习”(Learning),在这里,学习指的是神经元之间联系强弱的算法。生物神经元在结构上由细胞体、树突、轴突及突触组成。其中,突触的主要作用是在神经元之间传递信息,神经元之间强度的变化称为突触弹性,突触前细胞和突触后细胞产生峰电位的时间差可以改变突触弹性,这个现象被称为“尖峰时间依赖性可塑性”(Spike-timing Dependent Plasticity),简称STDP[1-11]。在IF模型中引入STDP机制可以使模型更真实的模拟生物神经网络系统。

1 IF模型的数学描述及其在MATLAB中的仿真模拟

神经元的特性可以通过生物学神经元的数学模型进行描述。数学模型可以比较精确的描述和预测生物学过程。IF模型是一种比较常用的神经元模型,在IF模型中,细胞体被描述为电容C的膜电压[1-11]。

IF模型的结构图,如图1所示:

图1 IF模型的结构图

膜电压的方程式如公式1:

其中,v = v(t),I = I(t),R为电阻值,C为电容值,mτ = RC表示时间常量,v0是电压初始值。求解公式(1),得到膜电压v(t),如公式(2)所示:

q为总充电量,τs是电流衰减常量,t(jf)是突触前神经元的点火时间[1]。

依据上述表达式,在MATLAB中构建IF模型,并进行仿真。具体参数设置如下:C=2,R=10,vr=-0.5,v0=0,q=2,τs=5,阈值电压设为1。基本的IF模型的MATLAB仿真结果如图2所示:

图2 IF模型的MATLAB仿真结果

图2的上图是输入电流,也就是突触前脉冲,在本模型中被设为随机值。图2的中图描述了膜电压的积分过程,虚线代表预设的阈值电压。图2的下图则表示输出脉冲,即突触后脉冲。由图2可以看出,每当膜电压等于阈值电压的时候,就会产生一个输出脉冲。

2 STDP机制的数学描述

在神经网络中,突触的作用是在神经元之间传递信息,一个包含突触的IF模型。如图3所示:

图3 包含突触的IF模型结构图

膜电压的计算公式,如公式(4):

STDP机制的窗函数,如图4所示:

图4 STDP机制的窗函数

横坐标代表突触前后神经元产生脉冲的时间差(图中用Δt = tpre- tpost表示),纵坐标表示突触权值的变化量(图4中用Δwij表示)。STDP机制的含义是,突触权值的大小与突触前后神经元产生脉冲的时间差(即Δt)有关。当突触前神经元脉冲先于突触后神经元脉冲产生(即Δt<0),那么突触权值将变大;反之(即Δt>0),当突触前神经元脉冲在突触后神经元脉冲产生后发生,那么突触权值将变小。

突触权值的变化量如公式(5)所示:

其中, 和 是时间常数,A+和A-由突触权值的值决定。

3 一种基于IF模型的STDP机制简化算法

STDP机制的学习曲线(即窗函数)如果用数学方程式表达出来是非常繁琐的,所以本文采用了一种新的STDP机制简化算法,该算法能够实现STDP所代表的基本功能,同时简化了运算量及MATLAB代码。该算法的窗函数如图5所示:

图5 简化的STDP窗函数

横轴代表突触前后神经元产生脉冲的时间差,纵轴则代表突触权值的变化量。注意到,该窗函数的第一象限,也就是STDP学习曲线的兴奋部分的斜率小于抑制部分,这是由生物的自然特性决定的。STDP窗函数,如公式(8):

公式(8)中,a是权值变化系数,在MATLAB模型中,设定a为0.01。图7是STDP机制的MATLAB模型仿真结果,上图是膜电压的波形,下图则是突触后神经元产生的脉冲波形。

根据图3所示的IF模型结构图,并结合STDP机制,在MATLAB软件中构建加入STDP机制的IF模型。突触A和突触B上的权值变化量及权值的波形,如图6和图7所示:

图6 STDP的仿真结果

图7 STDP的仿真结果。

参数设置如下:输入脉冲信号preA1,初始值为20,步长为20;输入脉冲信号preA2,初始值为30,步长为30;突触A的突触权值初始值设为2;突触B的突触权值初始值设为 3.8。需要注意的是,突触权值的改变只会发生在一对突触前后脉冲发生之后。

4 比较原IF模型和新IF模型在MATLAB中的仿真结果

新IF模型引入了STDP机制,并将STDP学习曲线用一种更加简单易于实现的表达式描述。原IF模型和新IF模型在MATLAB中的仿真结果,如图8和图9所示:

图8 原IF模型的仿真结果

图9 新IF模型的仿真结果。

上图为膜电压的波形,下图为突触后脉冲的输出波形。神经网络的结构框图如图9所示。在原IF模型中,突触A权值设为2,突触B权值设为3.8。比较两个模型的仿真结果,发现原IF模型中膜电压的积分速率恒定(即图9上图的积分斜率不变),然而,新IF模型中膜电压的每一次积分速率都不相同。这说明突触权值会改变膜电压积分速率。相对应的,当膜电压积分速率发生了变化,突触后神经元所产生的输出脉冲的次数以及时间间隔也会发生变化。新IF模型可以更真实的仿真生物的神经网络,对外界的刺激(即神经元的输入)的反应会随突触权值的变化而变化。更加重要的是,新模型的STDP窗函数是线性的,在硬件电路的实现上要更加的可行以及方便。

5 总结

本文设计了一个融合了STDP机制的IF模型算法,通过MATLAB软件对该模型的输入信号、膜电压、输出信号及突触权值进行测试,测试结果表明所设计算法与原始的IF模型算法相比较,具有更好的生物仿真能力,能够更真实的拟合生物的思维以及行为能力,并简化了计算量。STDP机制的研究将会揭示生物神经网络处理信息的深层规律,对人工智能的发展具有巨大的推进作用。

[1] Abbott L. F. and Sacha B. [J].Nelson, “Synaptic plasticity: taming the beast,” nature neuroscience supplement., vol.3, pp. 1178-1183, November 2000

[2] McCulloch W. S. and Pitts. W. “A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics”, [M].pages 127–147, 1943.

[3] 吕永浦,冯大政,IF模型及其学习规则研究[J],系统工程与电子技术,2006, 28(4): 583-586.

[4] 张莉, 冯大政,一种简化的整合-激发模型分析[J],计算机仿真,2009, 26(8):147-150.

[5] Gerstner and Kistler, “Spiking Neuron Models. Single Neurons, Populations, Plasticity,” [M].Cambridge University Press., 2002

[6] Muballit Mitte, “A simple neuron model - The integrate and fire neuron,”http://www.dreamincode.net/forums/ topic/72868-a-simple-neuron-model-the-integrate-and-fire -neuron/林凌鹏,STDP突触的双输入信号动力学模型研究[J],计算机应用研究,2012,29:1311-1313.

[7] 林凌鹏,动态STDP突触系统模型设计与验证[J],系统仿真学报,2011,10:2234-2238.

[8] G.Indiveri, “Modeling selective attention using a neuromorphic analog VLSI device,” Neural Computat., vol. 12, pp. 2857-2880, 2000

[9] Joshua Jen C. Monzon, “Analog VLSI circuit design of spike-timing-dependent synaptic plasticity”

TP311 文献标志码:A

2015.04.02)

1007-757X(2015)08-0059-03

江西省高校“‘青蓝工程’资助”项目

刘贤锋(1974-),男,江苏南京人,常州机电职业技术学院,硕士,副教授,研究方向:软件工程、电子信息工程,江苏 常州,213164左亚旻(1990-),女,江苏镇江人,常州机电职业技术学院,硕士,研究方向:电子信息工程,江苏 常州,213164

猜你喜欢
权值脉冲神经元
一种融合时间权值和用户行为序列的电影推荐模型
脉冲离散Ginzburg-Landau方程组的统计解及其极限行为
CONTENTS
上下解反向的脉冲微分包含解的存在性
跃动的神经元——波兰Brain Embassy联合办公
黄芩苷脉冲片的制备
基于权值动量的RBM加速学习算法研究
基于多维度特征权值动态更新的用户推荐模型研究
ERK1/2介导姜黄素抑制STS诱导神经元毒性损伤的作用
毫米波导引头预定回路改进单神经元控制