机器学习部分理论基础

一、过拟合和欠拟合        过拟合（高方差）是指模型对训练集的拟合性很好，但是对新数据的预测性能很差。欠拟合（高偏差）是指模型不能很好地拟合训练样本，并且对测试集的预测准确率也不高。        二、成本函数        成本是针对所有的训练样本，模型拟合出来的值与训练样本真实值的误差平均值。模型训练的过程，就是找出合适的模型参数，使得成本函数的值最小。记为J(θ)，其中θ为模型的参数,

>>阅读原文<<