《统计学习方法》第六章总结

第六章讲逻辑斯蒂回归模型和最大熵模型，这两个模型都属于对数线性模型。这两个模型学习一般采用极大似然估计，或正则化的 极大似然估计。逻辑斯蒂回归模型及最大熵模型学习可以转化为为无约束最优化问题。求解该最优化问题的算法有改进的迭代尺度法，梯度下降法，拟牛顿法。 二项逻辑斯蒂回归模型是一种分类模型，由条件分布P(X|Y)表示，形式为参数化的逻辑斯蒂回归。这里，随机变量X取值为实数，随机变量Y取值为0或1

>>阅读原文<<