最大熵模型——数学模型

【最大熵模型】 【最大熵原理】 不再赘述最大熵原理，简言之，最大熵原理认为所选择的模型必须满足约束条件，不确定的部分都认为是等可能的。利用熵的最大化实现等可能的表示。 熵公式：              其中     ，    表示X的取值个数，当且仅当X的分布式均匀分布时等号成立。即，X服从均匀分布时，熵最大。 【最大熵模型的定义】 最大熵模型，顾名思义就是将最大熵原理应用到分类训练出的模型。

>>阅读原文<<