关于信息熵相关的定义的理解

关于信息熵相关的定义的理解 1、信息量 信息量是通过概率来定义的： 如果一件事情的概率很低，那么它的信息量就很大； 反之，如果一件事情的概率很高，它的信息量就很低。 这件事情放在生活中，也是相当容易理解的。例如：“王思聪是富豪”这件事情的概率很高，但是说清楚这件事情只用一句话：“王思聪是王健林的儿子”，信息量少。那么我“李某人是富豪”这件事发生的概率就很低，要说清楚这件事情，估计得说上三天三夜了，

>>阅读原文<<