如何像用MNIST同样来用ImageNet？这里有一份加速TensorFlow分布式训练的梯度压缩指南

做者 | 王佐 python 今年的 NIPS 出现 "Imagenet is the new MNIST" 口号，宣告使用 MNIST 数据集检验网络模型性能已经成为过去式。算法工程师们早就意识到训练数据集大小的重要性，而且进一步发现，针对特定的模型大小，训练数据集的大小和泛化偏差之间存在如下的关系[1]:算法 训练数据集大小必须跨越Power-law Region，才能获得网络模型的实际性能。

>>阅读原文<<