交叉熵与KL散度（相对熵）总结比较

文章目录 关于交叉熵在loss函数中使用的理解 信息论 1 信息量 2 熵 3 相对熵（KL散度) 4 交叉熵 机器学习中交叉熵的应用 1 为何要用交叉熵作loss函数？ 2 交叉熵在单分类问题中的使用 3 交叉熵在多分类问题中的使用 参考：       ~~~~~      http://www.javashuo.com/article/p-nnyatwlq-eu.html       ~~~~

>>阅读原文<<