第二章 模型评估

[toc]

1. 评价指标的局限性

• 准确率（Accuracy）
• 精确率（Precision）
• 召回率（Recall）
• 均方根偏差（Root Mean Square Error, RMSE）

1.1 准确率

准确率： 指分类正确的样本占总样本个数的比例

Accuracy = \frac{n_{correct}}{n_{total}}

准确度的问题： 当不一样类别的样本比例很是不均衡时，占比大的类别每每成为影响准确率的最主要因素。 例如：当负样本占99%，分类器把全部样本都预测为负样本也能够得到99%的准确率。

1.2 精确率与召回率

精确度： 分类正确的正样本个数占分类器断定为正样本的样本个数的比例。 召回率： 分类正确的正样本个数占真正的正样本个数的比例。

在排序问题中，一般没有一个肯定的阀值把获得的结果直接断定为正样本或负样本，而是采用TopN返回结果的Precision值和Recall值来衡量排序模型的性能，即认为模型返回的Top N的结果就是模型断定的正样本，而后计算前N个位置上的准确率Precision@N和前N个位置上的召回率Recall@N。

Precision值和Recall值是既矛盾又统一的两个指标，为了提升Precision值，分类器须要尽可能在“更有把握”时才把样本预测为正样本，但此时每每会由于过于保守而漏掉不少“没有把握”的正样本，致使Recall值下降。

为了综合评价一个排序模型的好坏，不只要看precision和recall，并且最好绘制模型P-R（precision-recall）曲线。

由图可见，当召回率接近于0时，模型A的精确率为0.9，模型B的精确率是1，这说明模型B得分前几位的样本所有是真正的正样本，而模型A即便得分最高的几个样本也存在预测错误的状况。而且，随着召回率的增长，精确率总体呈降低趋势。可是，当召回率为1时，模型A的精确率反而超过了模型B。这充分说明，只用某个点对应的精确率和召回率是不能全面地衡量模型的性能，只有经过P-R曲线的总体表现，才可以对模型进行更为全面的评估。

F1 score

F1 = \frac{2 \times precision \times recall} {precision + recall}

1.3 均方根偏差RMSE

RMSE的计算公式：

RMSE = \sqrt{ {\frac {{\sum_{i=1}^n} {(y_i - \overline{y}_{i} )}^2}  {n}}}

$y_i$是第i个样本点的真实值，$\overline{y}_{i}$ 是第i个样本预测值, n是样本点个数。

RMSE可以很好地反映回归模型预测值与真实值的偏离程度。

比RMSE的鲁棒性更好的指标，平均绝对百分比偏差（Mean Absolute Percent Error， MAPE）,定义以下：

物理含义：相比RMSE，MAPE至关于把每一个点的偏差进行了归一化，下降了个别离群点带来的绝对偏差的影响。

---

2. ROC曲线

ROC曲线是Receiver Operating Characteristic Curve的简称，中文名为“受试者工做特征曲线”。ROC曲线源于军事领域，然后在医学领域应用甚广，“受试者工做特征曲线”这一名称也正是来自于医学领域。

ROC曲线的横坐标为假阳性率（False Positive Rate，FPR）；纵坐标为真阳性率(True Positive Rate，TPR) 。FPR和TPR的计算方法分别为：

上式中，P是真实的正样本的数量，N是真实的负样本的数量，TP是P个正样本中被分类器预测为正样本的个数，FP是N个负样本中被分类器预测为正样本的个数。

下面例子有助于学习： 只看定义确实有点绕，为了更直观地说明这个问题，咱们举一个医院诊断病人的例子。假设有10位疑似癌症患者，其中有3位很不幸确实患了癌症（P=3），另外7位不是癌症患者（N=7）。医院对这10位疑似患者作了诊断，诊断出3位癌症患者，其中有2位确实是真正的患者（TP=2）。那么真阳性率TPR=TP/P=2/3。对于7位非癌症患者来讲，有一位很不幸被误诊为癌症患者（FP=1），那么假阳性率FPR=FP/N=1/7。对于“该医院”这个分类器来讲，这组分类结果就对应ROC曲线上的一个点（1/7，2/3）。

2.1 如何画出ROC曲线？

**ROC曲线是经过不选移动分类器的<u>截断点</u>来生成曲线上的一组关键点。

截断点:区分正负预测结果的阈值。

经过动态地调整截断点，从最高的得分开始（其实是从正无穷开始，对应着ROC曲线的零点），逐渐调整到最低得分，每个截断点都会对应一个FPR和TPR，在ROC图上绘制出每一个截断点对应的位置，再链接全部点就获得最终的ROC曲线。

其实，还有一种更直观地绘制ROC曲线的方法。首先，根据样本标签统计出正负样本的数量，假设正样本数量为P，负样本数量为N；接下来，把横轴的刻度间隔设置为1/N，纵轴的刻度间隔设置为1/P；再根据模型输出的预测几率对样本进行排序（从高到低）；依次遍历样本，同时从零点开始绘制ROC曲线，每遇到一个正样本就沿纵轴方向绘制一个刻度间隔的曲线，每遇到一个负样本就沿横轴方向绘制一个刻度间隔的曲线，直到遍历完全部样本，曲线最终停在（1，1）这个点，整个ROC曲线绘制完成。

2.2 如何计算AUC?

AUC，就是ROC曲线下的面积。可以量化地反映基于ROC曲线衡量出的模型性能。AUC越大，说明分类器越可能把真正的正样本排在前面，分类性能越好。

计算AUC值只须要沿着ROC横轴作积分就能够了。

2.3 比较ROC曲线和P-R曲线有什么特色？

相比P-R曲线，ROC曲线有一个特色，当正负样本的分布发生变化时，ROC曲线的形状可以基本保持不变，而P-R曲线的形状通常会发生较剧烈的变化。（从二者曲线的定义、物理含义就能很好地理解）

能够看出，P-R曲线发生了明显的变化，而ROC曲线形状基本不变。这个特色让ROC曲线可以尽可能下降不一样测试集带来的干扰，更加客观地衡量模型自己的性能。这有什么实际意义呢？在不少实际问题中，正负样本数量每每很不均衡。好比，计算广告领域常常涉及转化率模型，正样本的数量每每是负样本数量的1/1000甚至1/10000。若选择不一样的测试集，P-R曲线的变化就会很是大，而ROC曲线则可以更加稳定地反映模型自己的好坏。因此，ROC曲线的适用场景更多，被普遍用于排序、推荐、广告等领域。但须要注意的是，选择P-R曲线仍是ROC曲线是因实际问题而异的，若是研究者但愿更多地看到模型在特定数据集上的表现，P-R曲线则可以更直观地反映其性能。

---

3. 余弦距离的应用

对于两个向量A和B，其他弦类似度定义为 即两个向量夹角的余弦，关注的是向量之间的角度关系，并不关心它们的绝对大小，其取值范围是[-1，1]。当一对文本类似度的长度差距很大、但内容相近时，若是使用词频或词向量做为特征，它们在特征空间中的的欧氏距离一般很大；而若是使用余弦类似度的话，它们之间的夹角可能很小，于是类似度高。此外，在文本、图像、视频等领域，研究的对象的特征维度每每很高，余弦类似度在高维状况下依然保持“相同时为1，正交时为0，相反时为-1”的性质，而欧氏距离的数值则受维度的影响，范围不固定，而且含义也比较模糊。

在一些场景，例如Word2Vec中，其向量的模长是通过归一化的，此时欧氏距离与余弦距离有着单调的关系，即

结论： 整体来讲，欧氏距离体现数值上的绝对差别，而余弦距离体现方向上的相对差别。例如，统计两部剧的用户观看行为，用户A的观看向量为（0，1），用户B为（1，0）；此时两者的余弦距离很大，而欧氏距离很小；咱们分析两个用户对于不一样视频的偏好，更关注相对差别，显然应当使用余弦距离。而当咱们分析用户活跃度，以登录次数（单位：次）和平均观看时长（单位：分钟）做为特征时，余弦距离会认为（1，10）、（10，100）两个用户距离很近：但显然这两个用户活跃度是有着极大差别的，此时咱们更关注数值绝对差别，应当使用欧氏距离。 特定的度量方法适用于什么样的问题，须要在学习和研究中多总结和思考，这样不只仅对面试有帮助，在遇到新的问题时也能够活学活用。

3.1 余弦距离是否是一个严格定义的距离？

距离定义：在一个集合中，若是每一对元素都可惟一肯定一个实数，使得三条距离公理（正定性，对称性，三角不等式）成立，则该实数可称为这对元素之间的距离。

---

4. A/B测试的陷阱

4.1 在对模型进行过充分的离线评估以后，为何还要进行在线A/B测试？

1. 离线评估没法彻底消除模型过拟合的影响。
2. 离线评估没法彻底还原线上工程环境。
3. 某些商业指标在离线评估中没法计算。

4.2 如何进行线上A/B测试？

进行A/B测试的主要手段是进行用户分桶，即将用户分红实验组和对照组，对实验组的用户施以新模型，对对照组的用户施以旧模型。在分桶的过程当中，要注意样本的独立性和采样方式的无偏性，确保同一个用户每次只能分到同一个桶中，在分桶过程当中所选取的user_id须要是一个随机数，这样才能保证桶中的样本是无偏的。

---

5. 模型评估的方法

5.1 模型评估过程当中，有哪些主要的验证方法，优缺点是什么？

1. Holdout检验 Holdout 检验是最简单也是最直接的验证方法，它将原始的样本集合随机划分红训练集和验证集两部分。比方说，对于一个点击率预测模型，咱们把样本按照70%~30%的比例分红两部分，70%的样本用于模型训练；30%的样本用于模型验证，包括绘制ROC曲线、计算精确率和召回率等指标来评估模型性能。

Holdout 检验的缺点很明显，即在验证集上计算出来的最后评估指标与原始分组有很大关系。为了消除随机性，研究者们引入了“交叉检验”的思想。

2. 交叉检验 k-fold交叉验证：首先将所有样本划分红k个大小相等的样本子集；依次遍历这k个子集，每次把当前子集做为验证集，其他全部子集做为训练集，进行模型的训练和评估；最后把k次评估指标的平均值做为最终的评估指标。在实际实验中，k常常取10。

留一验证：每次留下1个样本做为验证集，其他全部样本做为测试集。样本总58数为n，依次对n个样本进行遍历，进行n次验证，再将评估指标求平均值获得最终的评估指标。在样本总数较多的状况下，留一验证法的时间开销极大。事实上，留一验证是留p验证的特例。留p验证是每次留下p个样本做为验证集，而从n个元素中选择p个元素有C%种可能，所以它的时间开销更是远远高于留一验证，故而不多在实际工程中被应用。

自助法：自助法是基于自助采样法的检验方法。对于总数为n的样本集合，进行n次有放回的随机抽样，获得大小为n的训练集。n次采样过程当中，有的样本会被重复采样，有的样本没有被抽出过，将这些没有被抽出的样本做为验证集，进行模型验证，这就是自助法的验证过程。

5.2 自助法，对n个样本进行采样，当n趋于无穷大时，有多少样本从未被选择过？

---

6. 超参数调优

• 网格搜索：经过查找搜索范围内的全部的点来肯定最优值
• 随机搜索：在搜索范围内随机选取样本点
• 贝叶斯优化算法：贝叶斯优化算法在寻找最优最值参数时，采用了与网格搜索、随机搜索彻底不一样的方法。网格搜索和随机搜索在测试一个新点时，会忽略前一个点的信息；而贝叶斯优化算法则充分利用了以前的信息。贝叶斯优化算法经过对目标函数形状进行学习，找到使目标函数向全局最优值提高的参数。具体来讲，它学习目标函数形状的方法是，首先根据先验分布，假设一个搜集函数；而后，每一次使用新的采样点来测试目标函数时，利用这个信息来更新目标函数的先验分布；最后，算法测试由后验分布给出的全局最值最可能出现的位置的点。对于贝叶斯优化算法，有一个须要注意的地方，一旦找到了一个局部最优值，它会在该区域不断采样，因此很容易陷入局部最优值。为了弥补这个缺陷，贝叶斯优化算法会在探索和利用之间找到一个平衡点，“探索”就是在还未取样的区域获取采样点；而“利用”则是根据后验分布在最可能出现全局最值的区域进行采样。

7. 过拟合与欠拟合

7.1 过拟合和欠拟合具体指的是什么现象？

过拟合：在训练集上表现很好，在测试集和新数据上表现不好。 欠拟合：训练和测试都表现很差。

7.2 下降过拟合和欠拟合风险的方法？

下降过拟合的方法：

1. 得到更多的数据
2. 下降模型复杂度。
3. 正则化方法。（给模型参数加上必定的正则约束）
4. 集成学习。集成学习是把多个模型集成在一块儿，来下降单一模型的过拟合风险，如Bagging方法。

下降欠拟合风险的方法：

1. 添加新特征
2. 增长模型复杂度
3. 减少正则化系数