pytorch 在测试阶段,进行前向推断时,显存累加溢出问题

一、问题描述:测试

  pytorch中,在测试阶段进行前向推断运行时,随着for循环次数的增长,显存不断累加变大,最终致使显存溢出。spa


二、解决方法:
    使用以下代码处理输入数据:input

  假设X为模型的输入for循环

  X = X.cuda()model

  input_blobs = Variable(X, volatile=True)循环

  output = model(input_blobs)方法

  注意: 必定要设置 volatile=True 该参数,不然在for循环过程当中,显存会不断累加。
数据

相关文章
相关标签/搜索