BP神经网络（三）--梯度下降法

梯度下降法常用于神经网络负反馈过程中参数的优化。下面对梯度下降法做解释说明。 场景 梯度下降法的基本思想可以类比为一个下山的过程。 假设场景：一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。 但此时山上的浓雾很大，导致可视度很低。因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。 以他当前的所处的位置为

>>阅读原文<<