指数族分布(3)——最大熵角度

最大熵的角度理解指数分布族: 最大熵原理认为,学习概率模型时,在所有的概率模型中,熵最大的模型是最好的模型。指数族分布满足最大熵原理,在满足约束条件下,如果没有更多的信息,则那些不确定的部分概率相等时熵最大。 也就是说在满足已知事实(约束)的情况下指数族分布的熵最大。(离散型)
相关文章
相关标签/搜索