如何像用MNIST一样来用ImageNet？这里有一份加速TensorFlow分布式训练的梯度压缩指南

作者 | 王佐 今年的 NIPS 出现 "Imagenet is the new MNIST" 口号，宣告使用 MNIST 数据集检验网络模型性能已经成为过去式。算法工程师们早就意识到训练数据集大小的重要性，并且进一步发现，针对特定的模型大小，训练数据集的大小和泛化误差之间存在以下的关系[1]: 训练数据集大小必须跨越Power-law Region，才能得到网络模型的实际性能。 网络模型的大小（

>>阅读原文<<