CNN笔记(CS231N)——训练神经网络I(Training Neural Networks, Part I)

训练神经网络 我们先来看这部分内容的综述,主要介绍了在训练网络中的一些基本方法与基本概念 激励函数(Activation Functions) 首先我们来看看神经网络用的激励函数之间的对比 Sigmoid函数主要有一下三个问题,第一是函数存在饱和区,这部分函数梯度基本为0,导致权重不会变化;第二是函数输出不是以0为中心;第三是指数函数计算量比较大 对于第二点我们重点说说,假如输出不是以0位中心那会
相关文章
相关标签/搜索