线性回归公式推导总结

1.预测函数： 2.代价函数： 假设每一个对象的预测值与真实值的误差为ε，即： 则由中心极限定理可知： 当样本数量很多时，可假设误差ε的分布符合均值μ=0，方差为σ^2的高斯分布，即： 现在的任务是在所有可能的θ中，寻找一个最适合的θ，使得误差ε呈高斯分布的可能性最大，则由似然函数有： 对等式两边同时取对数求极大似然，即： 综上，代价函数为： 三、梯度下降： 先给出梯度下降的结论： 如果能求出虚线

>>阅读原文<<