机器学习理论笔记(2)

最近邻方法

训练集training set T
input x

(2.1) Y ^ ( x ) = 1 k x i N k ( x ) y i

如图,取 k = 15 k = 1 ,根据 Y ^ ( x ) > 0.5 ? 对点进行分类
这里写图片描述
这里写图片描述
但是一般情况下 k 的取值既不能太小也不能太大。下面是在原模型的基础上给了10000个测试点,这是一个测试点分类和训练点分类正确率与 k 值大小的关系图
这里写图片描述