标签平滑(label smoothing)

1. 什么是标签平滑？ 标签平滑就是用来解决over-confident的问题，这类问题在对抗构建中尤为重要(GANs) 通俗来讲 机器学习的样本中通常会存在少量错误标签，这些错误标签会影响到预测的效果。标签平滑采用如下思路解决这个问题：在训练时即假设标签可能存在错误，避免“过分”相信训练样本的标签。当目标函数为交叉熵时，这一思想有非常简单的实现，称为标签平滑（Label Smoothing）。

>>阅读原文<<