OFA文生图模型，显存空间不足的问题如何解决
当我使用OFA文生图模型使用CPU时，模型写出速度非常缓慢，当我更新torch为GPU版本后，会报错torch.cuda.OutOfMemoryError: CUDA out of memory 显存的内存空间不够的问题，请问这种问题如何去解决？ GPU至少需要多大的内存空间 
我的torch版本为1.13.0 torch.cuda.is_available() # TRUE 显卡为GTX1060 6G版本
展开
收起
1
条回答
写回答
写回答
-
您好，目前CPU版本确实非常慢，GPU需要16G以上显存才能得到一个相对较好的效果。这主要是因为图片本身相当于极长的序列，生成长序列需要很大的显存。
2022-11-25 11:38:49赞同 展开评论 打赏
相关问答
热门讨论
热门文章
请问Qwen-VL怎么用自己的数据集微调
1202
为什么用vllm部署qwen2-2b-vl，传输2张照片却，只回答一张照片的问题？
71
下载模型之后，模型的大小验证缺不通过，请问这是什么原因？
648
docker和open-webui、ollama 部署本地的qwen2 14b 提供了API接口吗？
328
!pip install open_clip_torch !pip install pytorch-
400
当下载大模型时，出现过慢的情况，有什么更好的方式解决
3827
modelscope版本1.2.1运行stable diffusion中文通用报错
1500
有人遇到吗？modelscope:cuda is not available, using cpu
1007
ModelScope通义千问72B有多模态能力吗？
120
数据下载失败。无法高效下载
274
展开全部
