Horovod 分布式训练框架搭建

点击 Horovod 官网地址访问详情.下面主要介绍在 Ubuntu 16.04 系统下安装 Horovod,都是参考官网的说明.一共须要安装三个模块git 1: nccl #NVIDIA Collective Communications Library (NCCL)多卡,多cpu通信模块 2: openmpi # 一个并行库,玩过caffe的同窗都知道 3: horovod # Uber 出品

>>阅读原文<<