你好，我使用【FRCRN语音降噪-单麦-16k】这个模型 cpu 推理较慢
你好，我使用【FRCRN语音降噪-单麦-16k】这个模型 cpu 推理较慢。
环境：windows 11 dockerDesktop ubuntu镜像
Q : 我在使用推理的时候，发现四五秒的音频推理需要20多秒，但是官方给出的demo 只需要0.3s。
我试用了 NoteBook 的GPU版本和CPU版本，标有 8核 cpu的处理起来跟我本机速度差不多（5s音频），使用GPU版本连续推理第一次需要3s，第二次仅需0.3s（与cpu版相同的音频），请问CPU 版本 和GPU 版本差距是如此巨大的吗？有没有方案能够弥补一下CPU版的速度缺陷？
展开
收起
1
条回答
写回答
写回答
-
您好，FRCRN语音降噪这一版模型的运算量是比较大的，特别是在CPU上处理耗时相对比较长，在模型不变的情况下没有什么很好的优化方案。建议使用GPU来提升速度，通常能够比CPU提升几倍到几十倍，不过GPU第一次使用需要初始化CUDA所以会比第二次调用耗时长一些。
2022-11-22 11:48:58赞同 1 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope上跑报错，提示要pip install ttsfrd，搞不定
7026
关于 Windows平台上 ttsfrd 库的问题。
1172
怎么使用微调后的模型经行推理？语音识别模型
1289
目录空间都删的只剩2G了，还报OSError: [Errno 122] Disk quota exc
799
KeyError: 'asr-inference is not in the pipelines r
1722
在Windows平台上关于 ModelScorpe Audio 安装涉及 kwsbp 的问题
488
kantts 这个模型是什么东西啊，运行会报错
1889
魔搭modelscope按官方文档安装音频环境失败
579
modelscope 更新指定版本
316
ttsfrd 是不开源的吗
3737
展开全部
