一文了解KL散度(KL Divergence)

时间 2020-12-25

标签葫芦爷救娃娃繁體版

原文原文链接

在概率论和统计学中,我们经常用一个简单的近似分布来代替观测数据或复杂的分布.KL散度帮助我们衡量当我们选择一个简单近似的分布来代替复杂的数据或复杂的分布的时候有多少信息损失了. 一个例子假设我们是太空科学家并在参观一个遥远的新星球,我们发现了一些蠕虫,我们想要研究他们.我们发现这些蠕虫都有10个牙齿,但是由于某些原因牙齿会进行脱落,从而导致每个蠕虫最后的牙齿个数各不相同.通过收集一系列数据,我们

>>阅读原文<<

1. KL Divergence KL散度
2. KL散度(Kullback-Leibler Divergence)
3. KL散度
4. KL-divergence
5. KL divergence
6. KL 散度理解
7. 关于KL距离（KL Divergence）
8. 熵(Entropy),交叉熵(Cross-Entropy),KL-松散度(KL Divergence)
9. Kullback–Leibler divergence(相对熵，KL距离，KL散度)
10. 浅谈KL散度
更多相关文章...
• *.hbm.xml映射文件详解 - Hibernate教程
• ARP报文格式详解 - TCP/IP教程
• 三篇文章了解 TiDB 技术内幕 —— 谈调度
• 三篇文章了解 TiDB 技术内幕——说存储