熵、交叉熵、交叉熵方法

信息量 熵 相对熵 交叉熵 衡量label和predict的差别web 看此篇的内容算法 CEM 交叉熵方法： 交叉熵方法是一种蒙特卡洛方法，主要用来优化和重要性采样。和进化算法相似，在空间中按照某种规则撒点，得到每一个点的偏差，再根据这些偏差信息决定下一轮撒点的规则。交叉熵方法之因此叫这个名字，是由于该方法（从理论上来讲）目标是最小化随机撒点获得的数据分布与数据实际分布的交叉熵（等价于最小化 K

>>阅读原文<<