最大熵模型的特征函数及约束条件

作者：星环科技 链接：https://zhuanlan.zhihu.com/p/29978153 来源：知乎 熵 熵(entropy)是热力学中的概念,由香浓引入到信息论中。在信息论和概率统计中,熵用来表示随机变量不确定性的度量。 H(x)依赖于X的分布,而与X的具体值无关。H(X)越大,表示X的 不确定性越大。 条件熵 3.最大熵模型的定义 最大熵原理是统计学习的一般原理,将它应用到分类就得到了

>>阅读原文<<