梯度降低算法比较

Batch gradient descent θ=θ−η⋅∇θJ(θ) .html 例如在线性回归中，损失函数是: J(θ)=12∑mi=1(hθ(x(i))−y(i))2 使用梯度降低的方法使得 J(θ) 最小化web 初始化 θ ，例如令 θ1=θ2...=θn=0 沿着负梯度方向迭代，更新后的 θ 使 J(θ) 更小 θj=θj−α.∂J(θ)∂θj 对于BGD来讲 θj=θj−α.∑mi=

>>阅读原文<<