深度学习算法之AlexNet和VGGNet

AlexNet: 1 模型特性css 该模型主要的特性以下: 1.1 激活函数——ReLUweb (1)激活函数使用ReLU,解决了梯度弥散问题;算法 什么是梯度弥散?一样还有一个概念叫作梯度爆炸?网络 直观的解释: app 能够看出sigmod函数在靠近0的附近的时候梯度变化比较明显,到靠近1的地方梯度逐渐趋近与0,根据梯度降低算法,此时权值等参数变化不明显,函数很难收敛。ide 本质的解释:s
相关文章
相关标签/搜索