【零基础】神经网络优化之mini-batch

一、前言   回顾一下前面讲过的两种解决过拟合的方法:   1)L0、L1、L2:在向前传播、反向传播后面加个小尾巴   2)dropout:训练时随机“删除”一部分神经元   本篇要介绍的优化方法叫mini-batch,它主要解决的问题是:实际应用时的训练数据往往都太大了,一次加载到电脑里可能内存不够,其次运行速度也很慢。那自然就想到说,不如把训练数据分割成好几份,一次学习一份不就行了吗?前辈们
相关文章
相关标签/搜索