机器学习中各种熵的定义及理解

转载：https://www.cnblogs.com/wkang/p/10068475.html 作者：Bo_hemian 机器学习领域有一个十分有魅力的词：熵。然而究竟什么是熵，相信多数人都能说出一二，但又不能清晰的表达出来。 而笔者对熵的理解是：“拒绝学习、拒绝提升的人是没有未来的，也只有努力才能变成自己想成为的人”。 下图是对熵的一个简单描述： 熵可以理解为是一种对无序状态的度量方式。那么熵

>>阅读原文<<