机器学习之 各种熵详解

本文为转载博文，原文地址: https://www.jianshu.com/p/09b70253c840 请听题：什么是熵？什么是交叉熵？什么是联合熵？什么是条件熵？什么是相对熵？它们的联系与区别是什么？ 如果你感到回答这些问题有些吃力，对这些概念似乎清楚，似乎又没有那么明白，那这篇文章就是为你准备的。 1 从随机变量说起 假设有一枚硬币，将其抛出，落下后朝上的面为y。 这里的y是对未知量的一个表

>>阅读原文<<