机器学习笔记~三种梯度降低算法的优劣

经常使用的梯度降低算法通常是Batch Gradient Descent，Mini-batch Gradient Descent和Stochastic Gradient Descent。算法 1. Batch Gradient Descent函数 1）优势：学习 在训练过程当中，使用固定的学习率，没必要担忧学习率衰退现象的出现。 具备一条直接到最小值的轨迹线，而且当目标函数为凸函数时，理论上保证收

>>阅读原文<<