今天测试tensorflow的GPU版本,但是发现一个问题同一个程序(卷积神经网络)为什么在anaconda里的jupyter里就可以飞速跑完,在使用anaconda环境的pycharm里面就会说显存不足呢?
报错是: failed to create cublas handle: CUBLAS_STATUS_ALLOC_FAILED(这就是显存不足的意思)
两个解决方案:
(1)
jupyter在没关闭的时候,会占用电脑大量显存,不应该和pycharm同时开启,应该及时按Ctrl+cl两次关闭。
(2)
在显存不足(如开了jupyter)的时候定义占比,强行跑程序。
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.333) with tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) as sess: