最大熵模型的简单理解

基本思想 在只掌握了关于未知分布的部分信息的状况下，符合已知知识分布的几率分布可能有多个，可是熵值最大的几率分布最真实低反映了事件的分布状况。html 最大熵原理指出，当咱们须要对一个随机事件的几率分布进行预测时，咱们的预测应当知足所有已知的条件，而对未知的状况不要作任何主观假设。在这种状况下，几率分布最均匀，预测的风险最小。由于这时几率分布的信息熵最大，因此人们称这种模型叫“最大熵模型”。咱们常

>>阅读原文<<