今天有人在家里做客吃饭,买了一瓶大瓶的可乐,有2.5L,喝了一半还剩下一半没有喝完,今天是喝不下了,扔了很可惜,不知道放到明天还可以喝吗。隔夜的可乐能喝吗?隔夜......
2023-04-30 1213
本文适合多GPU的机器,并且每个用户需要单独使用GPU训练。
虽然pytorch提供了指定gpu的几种方式,但是使用不当的话会遇到out of memory的问题,主要是因为pytorch会在第0块gpu上初始化,并且会占用一定空间的显存。这种情况下,经常会出现指定的gpu明明是空闲的,但是因为第0块gpu被占满而无法运行,一直报out of memory错误。
解决方案如下:
指定环境变量,屏蔽第0块gpu
CUDA_VISIBLE_DEVICES = 1 main.py这句话表示只有第1块gpu可见,其他gpu不可用,此时要注意第1块gpu已经变成第0块,因此代码里应该使用编号0来指定gpu。如果依然使用cuda:1会报invalid device ordinal。
当然也可以在代码里使用os模块达到同样效果:
import os#多块使用逗号隔开os.environ['CUDA_VISIBLE_DEVICES'] = '1'使用torch.cuda.devicewith torch.cuda.device(1): ...注意这种情况下gpu编号也会改变
关于这个问题的讨论,感兴趣的也可以去这里查看cuda out of memory error when GPU0 memory is fully utilized
以上这篇pytorch使用指定GPU训练的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持我们。
相关文章
今天有人在家里做客吃饭,买了一瓶大瓶的可乐,有2.5L,喝了一半还剩下一半没有喝完,今天是喝不下了,扔了很可惜,不知道放到明天还可以喝吗。隔夜的可乐能喝吗?隔夜......
2023-04-30 1213
豇豆是生活中很常见的蔬菜食物,适当食用可以为人体带来很多的好处,但是也有许多要注意的地方,那么吃豇豆的好处和坏处有哪些?豇豆有什么功效?豇豆中含有的营养成分具有......
2023-04-30 1218
黑芝麻是很常见的一种食物,吃黑芝麻具有护发的作用,而且还有很多其他的功效,常吃黑芝麻对身体好处有很多,黑芝麻的吃法有很多,可以煮粥吃,还有很多其他的吃法,那么黑......
2023-04-30 1221
百合是一种较为常见的中药食物,在很多饮食中都可以添加百合,具有很好的养生功效,那么百合和什么一起煮汤好?百合与什么食物搭配最好?百合可以与很多食物一同煮汤,但是......
2023-04-30 1131
眼周围长脂肪粒一般是由于脂肪代谢紊乱、不良化妆习惯引起的。清洁完皮肤后,用消毒过的针挑出脂肪粒白头,再用棉签蘸取适量的酒精对局部消毒,防止发生感染。用质地清爽的......
2023-04-30 1105