深度学习(DL)基本概念

深度学习中的batchsize、epochs、learning rate、momentum、iteration/step几个术语,这里整理一下, 1.batchsize:批大小,每次训练给神经网络喂入的数据量大小(当然也可以一次将所有样本丢给神经网络)。但是要注意,batchsize并不是越大越好。更大的批量会计算更精确的梯度估计,但是回报却是小于线性的。同样,极小批量通常难以充分利用多核架构。
相关文章
相关标签/搜索