备案控制台

开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

modelscope用7B你们用什么类型的显卡，用几张显卡？

modelscope用7B你们用什么类型的显卡，用几张显卡？

展开

收起

闲o月 2023-12-18 14:53:45 166 0

2 条回答

写回答

取消提交回答

三颗橙子

只要不爆显存就行能跑，至于推理速度，就和显卡性能，算法性能有关了此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2023-12-18 22:22:25

赞同展开评论打赏
小Lee

ModelScope平台上模型的训练和推理所需的显卡类型和数量取决于具体的模型和任务需求。一般来说较大的模型可能需要更高性能的GPU，如NVIDIA的V100、A100等，并且可能需要多张显卡进行并行计算以加速训练和推理过程。但具体配置应参考ModelScope平台的官方推荐或技术支持。

2023-12-18 15:32:18

赞同展开评论打赏

相关问答

modelscope-funasr的infer的时候input输入bytes类型，报错了，怎么解决？

33

1

0

modelscope-funasr能直接把数据的target改成不同流派类型进行finetune吗？

11

0

0

modelscope-funasr的语音转文字AI,主要用显卡还是cpu计算啊？

65

1

0

modelscope-funasr这个1200+的测试结果，是不是用了2张A10的显卡呀？

30

1

0

modelscope-funasr的GPU部署使用2060显卡性能与Cpu相比性能提升多少？

40

0

0

modelscope-funasr怎么设置使用指定的显卡计算吗？

60

1

0

modelscope-funasr使用bytes类型数据传入，识别效果很差怎么解决？

54

1

0

ModelScope中，是不是要修改这个参数为具体的显卡数呢？

47

1

0

ModelScope要求cuda的版本如果是intel显卡的话应该怎么办 ?

29

1

0

ModelScope的dsw上部署通义千问-7B调用快速开始代码的时候发生了以下错误，请问怎么解决？

26

0

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

服务器上onnxruntime-gpu 调用结束，如何释放显存

请问在 ModelScope 上的模型断网使用报这个错误啥原因了?

我希望通过damo-YOLO训练1500*1500的图片

ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？

ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？

在ModelScope中，请问模型下载到本地的具体方法？

modelscope cache 环境变量是啥？

streamlit 生成链接无法访问，gradio只生成内网，无法生成公网

展开全部

关键点检测从入门到进阶

YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度

YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开

一种基于YOLOv8改进的高精度红外小目标检测算法（原创自研）

关于flux.1 loras的8个问题

Stable Diffusion 介绍与入门

《YOLOv8原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录

人像增强修复

展开全部

相关课程

更多

个性化语音合成模型微调

252

1

去学习

ModelScope社区Library技术架构介绍

227

1

去学习

相关电子书

更多

视觉AI能力的开放现状及ModelScope实战 立即下载

ModelScope助力语音AI模型创新与应用 立即下载

低代码开发师（初级）实战教程 立即下载