Batch Size---深度学习---基础知识

Batch Size定义：一次训练所选取的样本数。  Batch Size的大小影响模型的优化程度和速度。同时其直接影响到训练单元（如GPU）的内存的使用状况，假如你训练单元（如GPU）内存不大，该数值最好设置小一点。优化 Batch Size设置合适时的优势：  一、经过并行化提升内存的利用率。就是尽可能让你的训练单元（如GPU）满载运行，提升训练速度。 内存的利用率提升了，大矩阵乘法的并行化效

>>阅读原文<<