KL散度超详细讲解

KL散度定义 KL(Kullback-Leibler divergence)散度多应用于概率论或信息论中，又可称相对熵(relative entropy)。它是用来描述两个概率分布P和Q的差异的一种方法。 【记】KL具有非对称性，即D(P||Q) ≠ D(Q||P)。 在信息论中，D(P||Q) 表示用概率分布Q来拟合真实分布P时，产生的信息损耗，其中P表示真实分布，Q表示P的拟合分布 KL散度公

>>阅读原文<<