浅析简单神经网络的发展及简单模型

陈晓燕

摘要：随着人工智能的兴起和对深度学习的深入研究，神经网络作为深度学习的算法之一，再次成为一个热门的研究课题。近年来，随着神经网络研究的不断推进，解决了很多领域中的一些瓶颈的问题，同时还体现出其良好的智能性。本文主要从人工神经网络的发展历史、结构和简单模型等方面进行了讲述。

关键词：人工神经网络;发展历程;结构

中图分类号：TP183 文献标识码：A 文章编号：1007-9416（2019）05-0223-02

0 引言

1956年，科学家麦卡锡和明斯基在美国相遇;在这次会面中他们提出“如何用机器模拟人类智能”，因此，“人工智能”的概念首次被提出，同时也标志着人工智能这一门学科的诞生。在此之后，“人工智能”的概念被迅速传开。人工智能是指人类各种智力劳动或智能行为，如判断、推理、证明、鉴定、感知、理解、交流、学习、解决问题等思维活动。它可以被一些智能机器人工实现。例如：语音识别、机器翻译、图像识别、人机对话、人机游戏、知识表示等。人工神经网络作为人工智能中的重要算法，在模式识别、智能机器人、自动控制、预测估计、生物学、医学、经济学等领域都取得了重大突破。

1 人工神经网络的发展

神经网络的概念起源于Maiqialuoke和皮茨在1943年提出的“明迪克马钦”想法，“明迪克马钦”指的是一种类似生物神经元特征互连模型的机器。他们构建了一个神经元模型，它代表了大脑的基本组成部分，并显示了逻辑系统的共性。随着人工神经网络研究的深入，研究目标从“脑机”转变为“学习机”。这时，一个一直关注神经系统的科学家——Hebb提出来学习模型。直到20世纪60年代初，Widrow提出了自适应线性元素。

到了20世纪70年代，Grossberg和Kehuoen已经为神经网络编码的研究做出了重要的贡献。通过生物学和心理学的一些知识，Grossberg提出了几种具有新特性的非线性动态系统结构。Werbos在1970年代发展出反向繁殖的方法。在神经元的相互作用下，Huopufeierde引入了一个递归神经网络，即著名的休普费尔德网络。20世纪80年代中期，帕克和Lumeierhat重新发现了反向传播算法。在过去的十年里，神经网络已经应用到了人们生活的方方面面，包括图像处理、信号处理、商业、医药等。

2 人工神经网络的结构

基本处理单元的连接决定了神经元的结构。神经网络仅由多个“神经元”组成，每个神经元包括多个输入x1、x2 ……xn、偏移量和输出。下面是这个简单“神经元”的结构，如图1所示。

这个"神经元"是一个x1，x2...xn和偏移Θ为输入值的操作单元。其输出为 f（t）=f（x1*wj1+x2*wj2+...+ xn*wjn-Θ）。其中，Θ是神经单元的偏置，wj是权重，神经元在权重为正时处于兴奋状态，在权重为负时处于抑制状态。n是输入的个数，yj是输出，f（_）是“激发函数”，而激发函数通常是非线性函数，这样就可以实现对各种复杂函数的逼近。常用的激发函数是二值函数、S形函数或双曲切线函数。S形函数为：

双曲正切函数为：

从函数表达式可以看出，S形函数的输出总是位于x轴上方，双曲切线函数的输出可以位于x轴上方，也可以位于x轴下方。可以看出，这种单一的“神经元”输入输出映射关系实际上是一种逻辑回归。

3 神经网络模型

神经网络将许多神经元连接在一起。这些神经元有一个单独的输出，并与其他神经元相连。一个神经元的输出也可以作为另一个神经元的输入，因此有许多不同的连接方法。不同的连接方法对应不同的权系数。输入层、隐藏层和输出层通常组成一个经典的神经网络。输入层和输出层的节点经常固定，中间的隐藏层经常不固定。箭头表示数据的传输的方向，如图2所示。

由图2可知，神经元的模型还可以看做一个有向图：对于每个节点都存在一个状任意两个节点间的连线都含有权值wii，对于每个节点都存在一個阈值。在每个节点上定义了一个变换函数f（）。

4 人工神经网络的学习算法

人工神经网络主要包含三种学习算法：有师学习、无师学习和监督学习。

有师学习是指可以根据期望值与实际输出之间的差异来改变权重，从而使实际结果接近期望的结果。因此，有师学习需要一位教师来提供期望的结果。无师的学习，即不需要提供期望和产出。只是向神经网络提供输入模式，神经网络能自动适应具有相似特性的输入并分组。增强学习仍然有教师，但教师并不提供期望值，而是当输出正确的结果时给予相应的响应。

5 结语

人工智能不断深入到各行各业，其身后的神经网络算法所带来的益处更是影响到了人们生活的各个方面。人工神经网络独特的非线性自适应信息处理能力已成功地应用于神经专家系统、模式识别、智能控制、组合优化、预测等领域。将人工神经网络与其他研究方法相结合，将促进科技的快速发展。

参考文献

[1] 李俊杰.浅谈人工智能在生活中的应用[J].科技风，2019（15）：84.