交叉熵与KL散度

参考文献 1.对数损失函数(Logarithmic Loss Function)的原理和 Python 实现 2.交叉熵与KL散度 3.深度学习剖根问底：交叉熵和KL散度的区别 4.详解机器学习中的熵、条件熵、相对熵和交叉熵 5.为什么交叉熵（cross-entropy）可以用于计算代价？ 6.机器学习中的基本问题——log损失与交叉熵的等价性 核心：KL散度=交叉熵-熵 对于给定训练集，熵是已知

>>阅读原文<<