Tensorflow分布式训练

Tensorflow分布式训练 一、分布式训练模式 1、模型并行（In-graph） 2、数据并行（Between-graph） 二、异步、同步训练 1、异步训练 2、同步训练 三、同步更新和异步更新的优缺点 四、分布式机器类型（TODO） 1、单机单卡 2、单机多卡 3、多机多卡 一、分布式训练模式 1、模型并行（In-graph） 所谓模型并行指的是将模型部署到很多设备上（设备可能分布在不同机

>>阅读原文<<