神经网络发展概述

1.  感知机：     拥有输入层，输出层和一个隐藏层，无法执行异或操作； 2.  多层感知机（神经网络）：     拥有多个隐藏层，全连接结构；     使用sigmoid或tanh等连续函数模拟神经元对激励的相应；     训练上使用反向传播BP算法。     解决：异或逻辑无法模拟问题。     问题：（1）优化函数越来越容易陷入局部最优解，偏离全局最优解；          （2）“梯度

>>阅读原文<<