信息熵（entropy)的理解

引言： 最近在看数据挖掘的内容，看视频的时候，里面讲到了一些信息熵的东西，突然让我对于之前信息熵的迷惑瞬间消散。写这个的目的只是抛砖引玉，辅助看到信息熵的朋友加深一点点…点.理解，水平实在有限，尽量保证正确 首先这儿有个统计图表，如下： 从图中这三列，我们分别可以得到如下信息： 1.第一列：总人群中男女比例都是0.5 2.第二列：在不吸烟的人群中女的为0.8，男的为0.2 3.第三列：在吸烟的人群

>>阅读原文<<