老师们好,我进行个性声音生成时,ModelScope出现这个错误,是什么原因? 我第一次结果是出来的。第二次发现GPU内存不足了。RuntimeError: CUDA out of memory. Tried to allocate 2.00 MiB (GPU 0; 15.90 GiB total capacity; 1.07 GiB already allocated; 4.81 MiB free; 1.08 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
这可能有以下几种原因和解决办法:
nvidia-smi
命令来查看你的GPU使用情况,找到占用内存的进程,并用sudo kill -9 pid
命令来结束它。torch.cuda.empty_cache()
函数来清空缓存分配器使用的缓存内存。或者你可以使用with torch.no_grad()
语句来避免计算梯度,减少内存占用。max_split_size_mb
参数来避免内存碎片化。ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352