逻辑回归损失函数为何使用最大似然估计而不用最小二乘法

最小二乘法的偏差符合正态分布,而逻辑回归的偏差符合的是二项分布,因此不能用最小二乘法来做为损失函数,那么可以用最大似然预计来作。算法 从求最优解的角度来解释:函数 若是用最小二乘法,目标函数就是  ,是非凸的,不容易求解,会获得局部最优。优化 若是用最大似然估计,目标函数就是对数似然函数:  ,是关于  的高阶连续可导凸函数,能够方便经过一些凸优化算法求解,好比梯度降低法、牛顿法等。blog 最小
相关文章
相关标签/搜索