数学之美学习笔记

16年一月份阅读了吴军的《数学之美》，真有种相见恨晚的感受！对于刚刚学习天然语言处理的人来讲，这是最佳入门读物，没有之一。下面是我在学习中作的一些知识点的阅读笔记，有些内容、公式摘自Tomas M.Cover的《信息论基础》，详情请参考原著，本文仅做我的阅读笔记学习使用。html 1.熵、联合熵、条件熵、互信息、相对熵 信息的做用是排除不肯定性，信息量就得关于不肯定性的多少。 对于任意一个随机变量

>>阅读原文<<