深入梯度下降(Gradient Descent)

深入梯度下降(Gradient Descent)算法   1 问题的引出 对于吴恩达的线性回归，先化一个为一个特征θ1，θ0为偏置项，最后列出的误差函数如下图所示： 手动求解 目标是优化J(θ1)（其实就是神经网络里面的loss函数，使得loss值最小），得到其最小化，下图中的×为y(i)，下面给出TrainSet，{(1,1),(2,2),(3,3)}通过手动寻找来找到最优解，由图可见当θ1取1

>>阅读原文<<