K近邻算法所面临的维数灾难问题

K近邻算法的基本思想 K近邻算法是一种常用的监督学习方法,其原理非常简单: 给定测试样本,基于某种距离找出训练集中与其最靠近的K个训练样本,然后基于这K个邻居的信息来进行预测。 两个基本要素:1某种距离的概念 2 彼此相近的点具有相似性质的假设 k近邻算法所面临的维数灾难问题 但是随着特征维数的增大,K近邻算法的效果会持续变差,这是因为高维空间过于巨大,高维空间内的点根本不会表现得彼此邻近。 观察
相关文章
相关标签/搜索