分布式Tensorflow

分布式TensorFlow 分布式Tensorflow是由高性能的gRPC框架作为底层技术来支持的。这是一个通信框架gRPC(google remote procedure call)，是一个高性能、跨平台的RPC框架。 RPC协议，即远程过程调用协议。是指通过网络从远程计算机程序上请求服务。 分布式原理： 单机多卡是指单台服务器有多块GPU设备。假设一台机器上有4块GPU，单机多GPU的训练过程

>>阅读原文<<