ModelScope中,有代码能调试一下,确认是用了CUDA?我这边GPU的内存根本没增加看来是没用上,但是安装cuda了呀
要确认在ModelScope中是否使用了CUDA,你可以尝试以下两种方法:
方法一:在运行Pipeline对象时,查看是否有警告或者错误提示信息。如果CUDA没有被正确配置或者使用,可能会出现相关警告或错误信息。
方法二:查看GPU内存的使用情况。如果你的GPU内存没有增加,可能说明没有使用到CUDA。一种常见的检查GPU内存的方法是在终端中输入nvidia-smi
命令,这将会显示你的GPU及其内存使用情况。
另外,需要注意的是,即使你已经安装了CUDA并且设备支持CUDA,但是模型本身不支持CUDA的情况下也无法使用CUDA加速。。
从你提供的信息来看,似乎你的程序没有有效地使用CUDA,即GPU内存没有增加。这可能有以下几个原因:
nvcc --version
来检查CUDA是否正确安装。您执行一下这两行代码,看一下是true还是false:
import torch
print(torch.cuda.is_available())nvcc --version您看一下您的cuda可能得重新装一下了。———此回答整理自钉群:魔搭ModelScope开发者联盟群 ①