交叉熵

文章转自：http://blog.csdn.net/rtygbwwwerr/article/details/50778098 交叉熵（Cross-Entropy） 交叉熵是一个在ML领域常常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。php 1.什么是信息量？ 假设X是一个离散型随机变量，其取值集合为X，几率分布函数为p(x)=Pr(X=x),x∈X，咱们定义事件X=x0的信息量为：

>>阅读原文<<