机器学习数学基础——熵和条件熵

熵：若是一个随机变量X的可能取值为X={x1,x2,…xn},每种取值的几率为p(xi),那么这个随机事件的发生，可以给咱们带来的信息量的指望（熵）是：spa   信息熵实际上是一个随机变量信息量的数学指望。3d 条件熵：在X给定条件下，Y的条件几率分布的熵 对X的数学指望：blog   因为是相对于X的数学指望，所以前面要乘以一个p(x)。事件   举个例子：有以下一个数据集，咱们问，在长相（帅

>>阅读原文<<