OFA文生图模型，显存空间不足的问题如何解决
当我使用OFA文生图模型使用CPU时，模型写出速度非常缓慢，当我更新torch为GPU版本后，会报错torch.cuda.OutOfMemoryError: CUDA out of memory 显存的内存空间不够的问题，请问这种问题如何去解决？ GPU至少需要多大的内存空间 
我的torch版本为1.13.0 torch.cuda.is_available() # TRUE 显卡为GTX1060 6G版本
展开
收起
1
条回答
写回答
写回答
-
您好，目前CPU版本确实非常慢，GPU需要16G以上显存才能得到一个相对较好的效果。这主要是因为图片本身相当于极长的序列，生成长序列需要很大的显存。
2022-11-25 11:38:49赞同 展开评论 打赏
相关问答
热门讨论
热门文章
为什么用vllm部署qwen2-2b-vl，传输2张照片却，只回答一张照片的问题？
162
【求助】关于使用Qwen2-7B-VL多模型模型识别图片某个元素的坐标的问题
71
请问Qwen-VL怎么用自己的数据集微调
1258
!pip install open_clip_torch !pip install pytorch-
441
18领域的文本分类模型在什么场景使用呢？
1681
下载模型之后，模型的大小验证缺不通过，请问这是什么原因？
664
如何本地化（局域网内）部署Qwen的多模态大模型，用作推理 并自有程序调用
146
图文匹配：Clip模型介绍
1018
OFA文生图模型，显存空间不足的问题如何解决
1737
对于ofa 6b en 模型，当我们使用pipline时能否一张图片生成多个句子？
1366
展开全部
Florence-VL：微软和马里兰大学共同开源的多模态大语言模型
69
NVILA：英伟达开源视觉语言大模型，高效处理高分辨率图像和长视频
49
GLM-4V-Flash：智谱 AI 免费开放的图像理解大模型 API 接口
44
MEMO：通过音频和图像生成肖像说话视频，感知音频中的情感来细化面部表情
35
Qwen2VL-Flux：开源的多模态图像生成模型，支持多种生成模式
82
Lobe Vidol：AI数字人交互平台，可与虚拟人和3D模型聊天互动
55
OmniSearch：阿里巴巴通义推出的多模态检索增强生成框架
127
Optimus-1：哈工大联合鹏城实验室推出挑战开放世界中长期任务的智能体框架
27
ACE：阿里通义实验室推出的全能图像生成和编辑模型
68
GenMAC：港大、清华联合微软推出文本到视频生成的多代理协作框架
21
展开全部
