深度学习入门-3(过拟合、欠拟合及其解决方案,梯度消失、梯度爆炸,4种进阶的循环神经网络)

深度学习入门-3(过拟合、欠拟合及其解决方案,梯度消失、梯度爆炸,4种进阶的循环神经网络) 一、过拟合、欠拟合及其解决方案 1、引入 (1)训练误差与泛化误差 (2)过拟合与欠拟合 2、模型复杂度 3、训练数据集大小 4、过拟合解决方法1——权重衰减(等价与L2 范数正则化) 4、过拟合解决方法2——丢弃法 二、梯度消失、梯度爆炸 1、梯度消失与梯度爆炸 2、随机初始化模型参数 (1)为什么要随机
相关文章
相关标签/搜索