林轩田-机器学习基石 课堂笔记（四）Feasibility of Learning

1.Learning is Impossible 课上给出了一个例子，要求通过给出的训练样本预测右边的九宫格输出结果为-1还是+1： 而实际上无论你回答-1还是+1，我们都可以说你是错误的且能给出看似合理的解释： 再看另一个例子，输入为三维的二进制数字。对于5个训练样本，分类效果完全正确，但是在3个测试数据上，预测结果却不一定正确。 因此，学习可能是做不到的，在训练集中可以求得一个最佳假设g，但是

>>阅读原文<<