备案控制台

开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

环境是我拉取GPU镜像跑的，跑的是gpt-3（1.3B）推理，ModelScope这个问题怎么解决？

环境是我拉取GPU镜像跑的，跑的是gpt-3（1.3B）推理，ModelScope这个问题怎么解决？

展开

收起

鸡蛋灌饼儿 2023-02-12 16:52:13 785 2

1 条回答

写回答

取消提交回答

月亮很亮

镜像没有挂上gpu——该回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2023-02-12 19:20:24

赞同展开评论打赏

相关问答

计算机视觉

modelscope-funasr服务端部署的话，推荐什么样的GPU？

48

0

0

modelscope-funasr的GPU调用失败了，是什么原因？

41

0

0

modelscope-funasr的GPU离线转写服务的说话人识别模块要怎么配置啊？

56

0

0

modelscope-funasr的 docker gpu1.1 容器中启动服务时，报这个是啥问题？

39

1

0

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？

36

0

0

modelscope-funasr的paraformer推理的显存是有什么决定的，为啥会不太稳定？

43

1

0

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？

38

0

0

ModelScope中示例页面的GPU版本和CPU版本。这两个不同版本会影响推理效率吗？

56

1

0

在modelscope-funasr怎么单独运行这个多人对话识别的模型呢？

35

0

0

ModelScope模型是不是不支持离线部署?

41

1

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

服务器上onnxruntime-gpu 调用结束，如何释放显存

我希望通过damo-YOLO训练1500*1500的图片

请问在 ModelScope 上的模型断网使用报这个错误啥原因了?

ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？

modelscope cache 环境变量是啥？

streamlit 生成链接无法访问，gradio只生成内网，无法生成公网

如何下载modelscope模型？

ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？

展开全部

YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度

YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开

一种基于YOLOv8改进的高精度红外小目标检测算法（原创自研）

关键点检测从入门到进阶

关于flux.1 loras的8个问题

Stable Diffusion 介绍与入门

《YOLOv8原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录

人像增强修复

展开全部

相关课程

更多

云原生AI套件：一键训练大模型及部署GPU共享推理服务

75

1

去学习

个性化语音合成模型微调

252

1

去学习

ModelScope社区Library技术架构介绍

227

1

去学习

相关电子书

更多

DeepStream: GPU加速海量视频数据智能处理 立即下载

阿里巴巴高性能GPU架构与应用 立即下载

GPU在超大规模深度学习中的发展和应用 立即下载

相关实验场景

更多