环境:windows 11 dockerDesktop ubuntu镜像
Q : 我在使用推理的时候,发现四五秒的音频推理需要20多秒,但是官方给出的demo 只需要0.3s。
我试用了 NoteBook 的GPU版本和CPU版本,标有 8核 cpu的处理起来跟我本机速度差不多(5s音频),使用GPU版本连续推理第一次需要3s,第二次仅需0.3s(与cpu版相同的音频),请问CPU 版本 和GPU 版本差距是如此巨大的吗?有没有方案能够弥补一下CPU版的速度缺陷?
您好,FRCRN语音降噪这一版模型的运算量是比较大的,特别是在CPU上处理耗时相对比较长,在模型不变的情况下没有什么很好的优化方案。建议使用GPU来提升速度,通常能够比CPU提升几倍到几十倍,不过GPU第一次使用需要初始化CUDA所以会比第二次调用耗时长一些。