关于交叉熵的个人理解

在信息论和机器学习中，常常会聊到交叉熵这个概念，用这个专有名词来计算预测结果与实际结果的差距，简单地说就是判断学习的好与坏。 那为了方便大家更加比较抽象地理解什么是交叉熵，我们先来聊一下什么是熵。 一：熵         熵，简而言之就是信息量。        举个栗子：        罗大黑同志，每天早上的早饭都是螺蛳粉，一年下来天天如此。然后，今天，我又看见罗大黑同志早餐去吃螺蛳粉，所以我见怪

>>阅读原文<<