批梯度降低法与随机梯度降低法

选定线性回归模型后，肯定参数 θ后就能够将模型用来预测。 目标函数 J(θ) 最小时 θ 才能肯定。所以问题归结为求极小值问题，使用梯度降低法。 批梯度降低法最大的问题是求得的有多是局部极小值，这与初始点选取有关。 梯度降低法流程： 1）首先对 θ 赋值，能够是随机的，也能够让 θ 是一个全零的向量。 2）改变 θ 的值，使得 J(θ) 按梯度降低的方向进行减小。 梯度方向由 J(θ) 对 θ 的

>>阅读原文<<