机器学习算法——决策树

决策树算法理论篇 1、决策树直观理解: 假设,已知10人房产、婚姻、年收入以及能否偿还债务的样本,那么第11个人来,知其房产、婚姻、以及年收入情况,问他是否能偿还债务? 2、前置知识: 理解决策树,我们必须知道一下概念: 信息熵:描述系统的不确定度,熵越高,代表系统越混乱,包含的信息量也就越多,其公式: 例(计算前10个样本能否还债y的信息熵):-0.7log2(0.7)- 0.3log2(0.3
相关文章
相关标签/搜索