机器学习入门笔记(二)----线性回归

1. 目标 : 找到使代价函数最小的函数h。 2. 代价函数:cost function,J。 平方误差代价函数: ... 3. 梯度下降法:将代价函数J取值最小化。 定义: α:速率、步长。太小导致速度慢。太大,导致不能收敛、甚至发散。 常规做法:θ同步更新。 导数:为正时:θ减小;为负时:θ增加;越接近局部最优解时,导数绝对值越小,修正幅度越小。 步骤:重复,直到收敛。步长a后面是函数J对θ0
相关文章
相关标签/搜索