人工智能里的数学修炼 | 交叉熵损失函数：从信息说起

交叉熵损失函数被广泛的运用于各种神经网络的训练目标函数，今天我们来深度刨析一番这一函数的优势何在，它又是从何而来？ 一.最初的方差损失函数 二.独热编码与SoftMax函数 三.信息量与熵 四.相对熵 五.交叉熵与交叉熵损失函数 一、最初的方差代价函数 在一步步介绍到交叉熵损失函数之前，先让我们来看一下最初的方差损失函数，为什么我们需要更优的交叉熵损失函数？先了解方差损失函数有助于我们更好的把握交

>>阅读原文<<