深度学习(问题集)

Softmax 函数 Softmax 将多分类的输出数值转化为相对概率 Si 表示的是当前元素的指数与所有元素指数和的比值。把一些输入映射为0-1之间的实数,并且归一化保证和为1,因此多分类的概率之和也刚好为1。 Backpropagation 通过链式法则对参数进行一层一层的求导。这里重点强调:要将参数进行随机初始化而不是全部置0,否则所有隐层的数值都会与输入相关,这称为对称失效 激活函数 用来
相关文章
相关标签/搜索