[机器学习]--逻辑回归总结

逻辑回归是一个分类算法，它能够处理二元分类以及多元分类。虽然它名字里面有“回归”两个字，却不是一个回归算法。那为何有“回归”这个误导性的词呢？我的认为，虽然逻辑回归是分类模型，可是它的原理里面却残留着回归模型的影子。邮件是不是垃圾邮件。细胞是不是癌细胞。

1. 从线性回归到逻辑回归

咱们知道，线性回归的模型是求出输出特征向量Y和输入样本矩阵X之间的线性关系系数θθ，知足Y=XθY=Xθ。此时咱们的Y是连续的，因此是回归模型。若是咱们想要Y是离散的话，怎么办呢？一个能够想到的办法是，咱们对于这个Y再作一次函数转换，变为g(Y)g(Y)。若是咱们令g(Y)g(Y)的值在某个实数区间的时候是类别A，在另外一个实数区间的时候是类别B，以此类推，就获得了一个分类模型。若是结果的类别只有两种，那么就是一个二元分类模型了