1.在用keras框架跑NER的train时,并且只是在用了keras_contrib.layers的CRF时出现问题:session
遇到无错跳出finished with exit code -1073740791 (0xC0000409),框架
(有其余博主说的减少batchsize的 我试过把batchsize减少为2,可是没有用)大数据
2.查出是显卡内存不足的问题,解决以下(对我的有效):spa
import os os.environ["CUDA_VISIBLE_DEVICES"] = "-1"
-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------.net
3.<原理参考>:code
keras在使用GPU的时候有个特色,就是默认所有占满显存。这样若是有多个模型都须要使用GPU跑的话,那么限制是很大的,并且对于GPU也是一种浪费。所以在使用keras时须要有意识的设置运行时使用那块显卡,须要使用多少容量。blog
这方面的设置通常有三种状况:内存
1.指定显卡 2.限制GPU用量 3.即指定显卡又限制GPU用量get
1、指定显卡it
import os os.environ["CUDA_VISIBLE_DEVICES"] = "2"
这里指定了使用编号为2的GPU,你们能够根据须要和实际状况来指定使用的GPU
2、限制GPU用量
一、设置使用GPU的百分比
import tensorflow as tf import keras.backend.tensorflow_backend as KTF #进行配置,使用30%的GPU
config = tf.ConfigProto() config.gpu_options.per_process_gpu_memory_fraction = 0.3 session = tf.Session(config=config) # 设置session KTF.set_session(session )
须要注意的是,虽然代码或配置层面设置了对显存占用百分比阈值,但在实际运行中若是达到了这个阈值,程序有须要的话仍是会突破这个阈值。换而言之若是跑在一个大数据集上仍是会用到更多的显存。以上的显存限制仅仅为了在跑小数据集时避免对显存的浪费而已。
二、GPU按需使用
import tensorflow as tf import keras.backend.tensorflow_backend as KTF config = tf.ConfigProto() config.gpu_options.allow_growth=True #不所有占满显存, 按需分配
session = tf.Session(config=config) # 设置session KTF.set_session(sess)
3、指定GPU而且限制GPU用量
这个比较简单,就是讲上面两种状况连上便可。。
import os import tensorflow as tf import keras.backend.tensorflow_backend as KTF # 指定第一块GPU可用 os.environ["CUDA_VISIBLE_DEVICES"] = "0"
config = tf.ConfigProto() config.gpu_options.allow_growth=True #不所有占满显存, 按需分配
sess = tf.Session(config=config) KTF.set_session(sess)
参考连接: