DNN, DL Updates

机器学习的理论进展到了什么程度?web 首先从传统的神经元层面来讲,使用了几十年的Sigmoid激活函数被ReLU、PReLU这样的激活函数代替,部分解决了训练到两端梯度变小致使训练缓慢甚至梯度消失的问题;权重的初始化,除了原来的均匀方法、高斯方法,前几年出现了xavier、msra等方法,这些更适合深度网络。固然这些算是小的改进,最近基本不多这方面的文章了。 其次是分类器层面,发展出了Softm
相关文章
相关标签/搜索