百度硅谷人工智能实验室开源高性能计算代码

美国时间2月22日，百度硅谷人工智能实验室(SVAIL)宣布向深度学习领域开源了 Ring Allreduce算法库，以实现在多个GPU之上更快速地训练神经网络模型。 Ring Allreduce是高性能计算领域的著名算法，但在深度学习领域应用不足。该技术可以实现近乎线性的加速，以及几十个甚至上百个GPU的扩展。比如，运用Ring Allreduce算法，百度硅谷人工智能实验室将神经网络的训练扩展

>>阅读原文<<