机器学习（十二）——最大熵模型

最大熵模型是基于最大熵原理的，在已知条件下，未知领域的数据均以最大化熵值分布；最大熵模型的意义在于对构建的模型f(x)进行最优化调整； 因此，最大熵模型的学习相当于求解最大熵模型，如上。该问题其实就是解决在约束条件下的最优化问题求解。解决max H(P)问题时，首先我们想到的是梯度下降算法求解max值，但是该问题是带约束的问题，无法使用梯度下降算法求解，因此，我们可以引入拉格朗日乘子w0,w1,w

>>阅读原文<<