再谈线性回归与逻辑回归-损失函数

高级机器学习笔记 线性回归的损失函数我们采用的是均方误差函数。而逻辑回归采用的是交叉熵。 均方误差 对于线性函数来说，我们使用平方形式的时候，使用了“最小二乘”的思想，就是用平方来度量估计值与真实值的距离，使其达到最小。而且，如果假设误差服从正态分布，它与最大似然估计在本质上是相同的。 如下面两张图所示： 误差满足正太分布的话，那么我们可以让似然函数L(w)取最大的值，然后可以求出红框中的形式，也

>>阅读原文<<