统计学习方法笔记：逻辑斯谛回归与最大熵模型（下）

1.3模型学习的最优化算法 逻辑斯谛回归模型、最大熵模型学习归结为以似然函数为目标函数的最优化问题，通常通过迭代算法求解。从最优化的观点看，这时的目标函数具有很好的性质。它是光滑的凸函数，因此多种最优化的方法都适用，保证能找到全局最优解。常用的方法有迭代尺度法、梯度下降法、牛顿法或拟牛顿法。牛顿法或拟牛顿法一般收敛速度更快。 1.3.1改进的迭代尺度法 改进的迭代尺度法（improved iter

>>阅读原文<<