跟我学神经网络2-反向传播

1. 关键词 梯度下降,反向传播 2. 导读 本文介绍了反向传播的数学基础,及其过程。 3. 数学基础 3.1 梯度下降 神经网络求解的目的,是使输出值更接近于真实值,这就转化成一个求最优解或最小值的过程,最常用的就是梯度下降法。从山顶沿负梯度方向(导数的反方向),一步步走到山底。 上图也演示了梯度下降受到起点的影响,得到的是局部最优解,并不一定是全局最优解。 3.2 链式法则 求解梯度就是求导数
相关文章
相关标签/搜索