【Deep Learning基础知识】深度学习中关于batch、epoch和iteration的含义 和 batchsize的大小对训练过程的影响

前言：深度学习中最基本的思想为梯度下降，反向传播减小误差优化参数。 而在使用训练数据优化参数的时候有两种方法： 1）Batch gradient descent：每次迭代(完成一次前向和反向运算)会计算训练数据集中所有的样本，在深度学习中训练样本数量通常达十万、百万甚至更多，这样一次迭代遍历所有的样本显然很慢。 2）Stochastic gradient descent：每次迭代只使用训练集中的一

>>阅读原文<<