modelscope-funasr中,在Linux系统上配置了Torch 2.1.1, FunASR 0.8.7, ModelScope 1.10.02,我尝试对下载的speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404模型进行量化导出。这个过程产生了一个TorchScripts文件,但当我将数据加载到这个模型并执行时,出现了错误,提示指出至少有两个设备上的张量不一致,cuda:0和cpu。可能问题代码是mask0 = torch.to(mask, torch.device("cpu"), 6),但不确定错误代码属于模型还是ModelScope的问题,而且使用ONNX时没有这个问题,只是ONNX输入是numpy格式而我的输入是tensor格式,这是怎么回事呢?
https://alibaba-damo-academy.github.io/FunASR/en/funasr/export/README.html
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352