3.对神经网络训练中Epoch的理解

 

表明的是迭代的次数，若是过少会欠拟合，反之过多会过拟合

EPOCHS

当一个完整的数据集经过了神经网络一次而且返回了一次，这个过程称为一个 epoch。

 

然而，当一个 epoch 对于计算机而言太庞大的时候，就须要把它分红多个小块。

 

为何要使用多于一个 epoch？

我知道这刚开始听起来会很奇怪，在神经网络中传递完整的数据集一次是不够的，并且咱们须要将完整的数据集在一样的神经网络中传递屡次。可是请记住，咱们使用的是有限的数据集，而且咱们使用一个迭代过程即梯度降低，优化学习过程和图示。所以仅仅更新权重一次或者说使用一个 epoch 是不够的。

 

 

随着 epoch 数量增长，神经网络中的权重的更新次数也增长，曲线从欠拟合变得过拟合。

 

那么，几个 epoch 才是合适的呢？

不幸的是，这个问题并无正确的答案。对于不一样的数据集，答案是不同的。可是数据的多样性会影响合适的 epoch 的数量。好比，只有黑色的猫的数据集，以及有各类颜色的猫的数据集。