数学之美：谈谈最大熵模型

一个色子，当对其一无所知时，咱们会假设色子每一个面出现的几率为1/6；若是已知一个面的几率为1/3，则咱们会假设其余面几率为2/15。当咱们对一个随机事件的几率进行预测时，咱们的预测应当知足全部的已知条件，而对其余未知状况不要作任何主观假设，在这种状况下，几率分布均匀，预测的风险最小，这时的几率分布的信息熵最大。所以叫作最大熵模型。这就是咱们一般所说的不要把鸡蛋放在一个篮子里。朴素的理解是当咱们遇

>>阅读原文<<