Text mining and analytics学习笔记——第二周

导读： 1）什么是熵？对于什么样的随机变量，熵函数分别达到最小值和最大值？ 2）什么是条件熵？ 3)条件熵H（X | Y）和熵H（X）之间的关系是什么？哪个更大？ 4)如何用条件熵来发现组合关系？ 5)什么是互信息我（X; Y）？它与熵H（X）和条件熵H（X | Y）有什么关系？ 6)I（X; Y）的最小值是多少？它是对称的吗？ 7)对于什么样的X和Y，互信息I（X; Y）是否达到最小值？对于一个

>>阅读原文<<