开发者社区 > ModelScope模型即服务 > 语音 > 正文

你好,我使用【FRCRN语音降噪-单麦-16k】这个模型 cpu 推理较慢

你好,我使用【FRCRN语音降噪-单麦-16k】这个模型 cpu 推理较慢。

环境:windows 11 dockerDesktop ubuntu镜像

Q : 我在使用推理的时候,发现四五秒的音频推理需要20多秒,但是官方给出的demo 只需要0.3s。

我试用了 NoteBook 的GPU版本和CPU版本,标有 8核 cpu的处理起来跟我本机速度差不多(5s音频),使用GPU版本连续推理第一次需要3s,第二次仅需0.3s(与cpu版相同的音频),请问CPU 版本 和GPU 版本差距是如此巨大的吗?有没有方案能够弥补一下CPU版的速度缺陷?

展开
收起
hc3bqmzmskxjs 2022-11-22 10:30:27 1308 0
1 条回答
写回答
取消 提交回答
  • 您好,FRCRN语音降噪这一版模型的运算量是比较大的,特别是在CPU上处理耗时相对比较长,在模型不变的情况下没有什么很好的优化方案。建议使用GPU来提升速度,通常能够比CPU提升几倍到几十倍,不过GPU第一次使用需要初始化CUDA所以会比第二次调用耗时长一些。

    2022-11-22 11:48:58
    赞同 1 展开评论 打赏

包括语音识别、语音合成、语音唤醒、声学设计及信号处理、声纹识别、音频事件检测等多个领域

相关电子书

更多
RDS SQL Server CPU高使用率性能优化 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载