统计学习方法 6-逻辑斯谛回归与最大熵模型

逻辑斯谛回归模型 逻辑斯谛分布 二元逻辑斯谛回归模型 模型参数估计 多元逻辑斯谛回归 最大熵模型 最大熵原理 最大熵原理认为，学习概率模型时，在所有可能的概率模型（分布）中，熵最大的模型是最好的模型。通常用约束条件来确定概率模型的集合，所以，最大熵原理也可以表述为在满足约束条件的模型集合中选取熵最大的模型。 H(P)=−∑xP(x)logP(x) 0≤H(P)≤log|X| ,当 X 服从均匀分布

>>阅读原文<<