tensorflow 多GPU训练时， Memory-Usage占满而GPU-Util为0%的问题

      由于刚开始接触多gup训练，按照网上的帖子改写代码后，发现训练程序依旧很慢（用的是4gpu），用nvidia-smi检查GPU运行情况，发现Memory-Usage占满而GPU-Util为0%。       上网一搜还真有不少人遇到同样的问题，还以为是自己哪里没设置好。画了一天左右时间在网上找解决方法，网上的方法都没用。       后来用watch nvidia-smi命令，实时观察

>>阅读原文<<