人工智能学习笔记5

以下内容来自百度，他人博客等，用于学习，并记录笔记，若有侵犯到版权，联系博主，将立刻删除     分母 +1 是因为为了最大值趋于1而不是更大的值，分母以指数级变化，所以越区域1时，变化越不明显。这就导致梯度在前面几层就下降到非常非常小，之后基本起不到训练的作用。 神经网络的输出层一般还是sigmoid函数，因为他最接近概率输出分布     没有隐含层的神经网络是没办法把特征抽象的，仅仅是通过像素

>>阅读原文<<