机器学习总结(二)——逻辑斯谛回归和最大熵模型

一、逻辑斯谛回归 1. 逻辑斯蒂回归的优缺点 优点：计算代价不高，易于理解和实现，且若采用随机梯度上升法可以在线学习； 速度快，存储资源低。 缺点：可能容易欠拟合，分类精度不高，这个可能是因为我们无法找到足够的特征。只能处理两类分类问题，且必须是线性可分的；（在此基础上衍生出来的softmax可以用于多分类） 2. 与其它的分类算法比较 直接用线性回归做分类因为考虑到了所有样本点到分类决策面的距离

>>阅读原文<<