机器学习算法之--最大熵模型总结

文章目录 一、最大熵原理 二、最大熵模型定义 三、最大熵模型学习 四、最大熵模型的优缺点 五、最大熵模型与逻辑斯谛回归区别 一、最大熵原理 最大熵模型可由最大熵原理推出，最大熵原理是概率模型学习的一个准则。最大熵原理认为在满足已有事实的所有可能的概率模型中，熵最大的模型是最好的模型。 |X|是X的取值个数，上式表明当且仅当X的分布是均匀分布时右边的等号成立，当X服从均匀分布时，熵最大。 二、最大熵

>>阅读原文<<