深度学习中的随机梯度降低(SGD)简介

        随机梯度降低(Stochastic Gradient Descent, SGD)是梯度降低算法的一个扩展。git         机器学习中反复出现的一个问题是好的泛化须要大的训练集，但大的训练集的计算代价也更大。机器学习算法中的代价函数一般能够分解成每一个样本的代价函数的总和。随着训练集规模增加为数十亿的样本，计算一步梯度也会消耗至关成的时间。github         随机梯

>>阅读原文<<