深度学习的高性能计算技术（Horovod 分布式）

深度学习的高性能计算技术 介绍 在过去几年中，神经网络已被证实是解决各类问题的极其有效的工具，而且在规模和计算要求方面迅速增加。 2012年，用于图像识别的超级卷积网络在物体识别方面取得了巨大进步，花了一周时间用两个GPU，拥有6000万个参数。 2016年，研究人员在语言建模方面取得了突破，该网络拥有超过10亿个参数，在32个GPU上训练了三个星期。在百度研究所的硅谷AI实验室内，2014年咱们

>>阅读原文<<