机器学习sklearn之KNN算法思想及KD树实现原理

物以类聚、人以群分 KNN算法主要是通过K个最近样本的类型判断当前样本的类别，可用于分类和回归。他们的决策方式有所区别：做分类时，一般采用多数表决法，K个最近邻中，哪个类别占的比例多，预测样本就为哪个类别；做回归时，一般采用平均法，对K个最近邻样本输出取个平均值。由于算法简单且分类精度较高，在实际当中也有一定的应用，也是入门机器学习的一个比较典型的算法。 很多人会把它跟K-Means算法混淆，因为

>>阅读原文<<