统计学习方法-第六章

统计学习第六章-最大熵模型 最大熵的选择问题 熵、联合熵、条件熵、互信息的关系 最大熵模型 特征函数的细致探讨 特征函数的估计$E_{P}(f)$ 最大熵模型 改进尺度迭代法IIS 最大熵的选择问题 熵、联合熵、条件熵、互信息的关系 熵之间的关系问题，不涉及到交叉熵等。为什么选择最大熵，物理学中，系统往往向着熵增加的方向发展，所以系统的熵越大，则系统的稳定性越高，当然系统的未知性也越高，例如简单的

>>阅读原文<<