李航统计学习方法-K邻近法

k邻近简单的理解一下就是，给定一部分带标签样本和一个未知标签样本，将未知标签样本和带标签样本一一比较求距离，然后根据最近k个样本来决定未知标签样本的类别。 如上图：确定圆圈的类别，如K=3，则为三角；若K=5，则为正方形。 那么怎么求距离？选择何种求距离算法。 书中给出了Lp距离的求解： 除了距离度量外，K邻近法的K值如何选取也很重要，书中介绍如下： K值较小，模型较复杂，易过拟合；K值较大，模型

>>阅读原文<<