25-随机梯度下降法

随机梯度下降法 1. 概念   我们之前学习的梯度下降法一直是要我们最优化的那个损失函数相应在某一点的 θ θ θ 那个梯度值准确的求出来。   那么通过推导的这个公式可以看出来，要想求出这个准确的梯度来，在这个式子中每一项都要对所有的样本（ m m m 个）进行一下计算，前面是有一个求和计算的，那么这样的一个下降法通常又叫做批量梯度下降法（Batch Gradient Descent）。也就是说

>>阅读原文<<