用pipeline做推理的时候，怎么让其使用GPU？
我按照官网给的案例，利用pipeline获取UniASR语音识别-中文-通用-16k-实时这个模型做推理，但是程序跑出来并没有利用GPU还依然是用的CPU，所以想问各位大佬怎么选择用GPU做pipeline的推理呢？
展开
收起
2
条回答
写回答
写回答
-
您好，pipeline是支持GPU解码的，如果有GPU，默认使用GPU计算，如果没有GPU，才会用CPU解码，针对您遇到的问题，我们怀疑是环境按照问题，请问方便提供一下具体环境细节么？环境安装，推荐先按照tensorflow-gpu或者pytorch，然后再安装modelscope。您也可以加入我们钉钉服务群（群号：27215013275），方便及时沟通您在使用pipeline过程中遇到的问题
2023-01-12 12:40:59赞同 展开评论 打赏 -
十分耕耘，一定会有一分收获！楼主你好，你可以在GPU上创建目标检测Pipeline管道：Creating an Object Detection Pipeline for GPUs，试一下
2023-01-12 09:56:08赞同 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope上跑报错，提示要pip install ttsfrd，搞不定
7036
关于 Windows平台上 ttsfrd 库的问题。
1177
怎么使用微调后的模型经行推理？语音识别模型
1291
目录空间都删的只剩2G了，还报OSError: [Errno 122] Disk quota exc
801
KeyError: 'asr-inference is not in the pipelines r
1724
modelscope 更新指定版本
320
在Windows平台上关于 ModelScorpe Audio 安装涉及 kwsbp 的问题
489
语音合成速度太慢，且无法并行
1503
kantts 这个模型是什么东西啊，运行会报错
1889
魔搭modelscope按官方文档安装音频环境失败
579
展开全部
