谷歌机器学习速成课程笔记 15(Training Neural Networks -训练神经网络)

在思考如何训练神经网络是,首先我们需要了解哪些信息是与反向传播有关的。 (我们不需要了解反向传播的实施方式/原理机制,因为tensorflow 会为我们做好) 首先,反向传播确实依赖于梯度这个概念——事物必须是可微的(函数中存在一两个小的间断点没关系)这样我们才能够使用神经网络进行学习。 另外,要注意,梯度可能会消失。如果我们的网络太过深入,信噪比随着您深入模型而变差,那么学习速度可能会变得非常慢
相关文章
相关标签/搜索