Dropout理解-原理,实现,优缺点

一,为何提出dropout? 在机器学习或者深度学习中,经常出现的问题是,训练数据量小,模型复杂度高,这就使得模型在训练数据上的预测准确率高,但是在测试数据上的准确率低,这时就是出现了过拟合。 为了缓解过拟合,可采用的方法有很多,其中一种就是集成,通过训练多个模型,采用“少数服从多数”的策略决定最终的输出,但同时这个方法有一个很明显的缺点–训练时间长。 因此,dropout的提出主要基于以下两点:
相关文章
相关标签/搜索