机器学习的科学可行性——计算学习理论

首先插句题外话，机器学习中有一条著名的定理：NO Free Lunch Theorem（NFL）。 假定我们所要训练的机器学习模型事先是没有目标任务的，也就是说这个模型针对的是出现机会均相同的“问题”（学习任务），那么任意算法模型得到的期望性能都是相同的 —— 如果我们采用的是“瞎猜”的算法，和采用其它高级算法的期望性能是一样的。（证明略） 然而，实际应用中，目标任务的出现概率不可能是均等的（需要

>>阅读原文<<