梯度下降

小白白一个，总结摘要，欢迎指正。 一. 批梯度下降算法  梯度下降原理：将函数比作一座山，我们站在某个山坡上，往四周看，从哪个方向向下走一小步，能够下降的最快。 可以用以下式子表示一个样本：   θ表示X映射成Y的权重，x表示一次特征。假设x0=1,上式就可以写成： 分别使用x(j),y(j)表示第J个样本。我们计算的目的是为了让计算的值无限接近真实值y，即代价函数可以采用LMS算法 要获取J(θ

>>阅读原文<<