备案控制台

游客x55rk7ntoj37y_个人页

游客x55rk7ntoj37y

文章

0

问答

1

视频

0

个人介绍

暂无个人介绍

擅长的技术

获得更多能力

通用技术能力：

暂时未有相关通用技术能力~

云产品技术能力：

暂时未有相关云产品技术能力~

阿里云技能认证

详细说明

文章
问答
视频

暂无更多信息

暂无更多信息

正在加载, 请稍后...

暂无更多信息

回答了问题 2024-06-26

ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？

4张V100失败了我看hg上写：运行BF16或FP16模型需要多卡至少144GB显存（例如2xA100-80G或5xV100-32G）；运行Int4模型至少需要48GB显存（例如1xA100-80G或2xV100-32G）。

赞152 踩0 评论0

正在加载, 请稍后...

滑动查看更多

正在加载, 请稍后...

暂无更多信息