大规模机器学习：对大数据的学习

一：为何不能用之前的梯度下降（批量梯度下降）算法对大数据训练 对机器系统做分析的时，如果由 学习曲线得到高方差的曲线模型，就可能需要增加原始数据量来提高系统性能。 以线性回归为例，在使用线性回归训练时，需要对图中红框内容进行迭代，求得最佳 Theta 值。红框中所求的时成本函数的梯度，需要对整个数据集求和。数据集如果达到百万级别，Theta 每迭代一次，就需要对百万数据求和一次，整个训练所消耗的时

>>阅读原文<<