决策树(二)

  也可以说,信息量度量的是一个具体事件发生了所带来的信息,而熵则是在结果出来之前对可能产生的信息量的期望——考虑该随机变量的所有可能取值,即所有可能发生事件所带来的信息量的期望。即: 1.2 条件熵(可以理解为在给定某种条件下弄清这件事所需要的信息量,其中给定某种条件后给决策树补充了信息量)    关于条件熵的两篇博客:文章1、文章2、文章3     对于条件熵的具体理解: 我们的条件熵的定义是
相关文章
相关标签/搜索