神经元与神经网络结构

人工神经网络(Artificial Neural Network,即ANN )

神经元模型

1.生物神经元
这里写图片描述

神经元由一个细胞体和突两部分组成。突分两类,轴突和树突。
树突轴突共同作用,实现神经元之间的信息传递。

轴突的末端与树突进行进行信号传递的界面成为突触,通过突触向其他神经元发送信息。学习发生在突触附近,而且突触把经过一个神经元轴突的脉冲转化为下一个神经元的兴奋信号或抑制信号。

对某些突触的刺激促使神经元触发,只有神经元所有输入的总效应达到阈值电平,它才开始工作。

2.人工神经元

这里写图片描述

在简单的人工神经网络模型中,用权和乘法器模拟突触特性,用加法器模拟树突的互连作用,而且与阈值比较来模拟细胞体内电化学作用产生的开关特性。

xi——表示来自其他神经元的输入
wi——表示相应的网络连接权重(大的正权对应强的兴奋,小的负权对应弱的抑制

各个输入乘以相应权重并相加,把所有总和与阈值电平(称为神经元的偏置)比较:
当总和高于阈值时,其输出为1;
否则,输出为0。

神经网络的典型结构

1.单层感知器网络
单层感知器是其他网络结构的基本单元。常用的激活函数为S型的Sigmoid函数:

这里写图片描述

2.前馈型网络
前馈网络的信号由输入层到输出层单向传输,每层的神经元仅与前一层的神经元相连,仅接受前一层传输来的信息。

3.前馈内层互联网络
前馈内层互联网络属于前馈型的网络,但是内部有一些节点在层内互连。

4.反馈型网络
反馈型网络在网络的输出层存在一个反馈回路到输入层作为输入层的一个输入,但网络本身还是反馈型结构。

5.全互联网络 全互联网络中所有的神经元之间都有相互间的连接。