chenhehong
chenhehong_个人页
chenhehong
文章
0
问答
2
视频
0
个人介绍
暂无个人介绍
擅长的技术
暂无更多信息
2023年05月
-
05.18 21:24:27
回答了问题
2023-05-18 21:24:27
单个GPU显存较小，无法推理，如何设置多卡推理？
赞0 踩0 评论0 -
05.18 21:24:00回答了问题
2023-05-18 21:24:00
可以支持哪些语言呢
赞0 踩0 评论0
暂无更多信息
-
回答了问题
2023-05-19
单个GPU显存较小，无法推理，如何设置多卡推理？
如果GPU显存较小或推理速度较慢，可开启半精度推理。临时的解决方法是使用源代码安装modelscope，然后将 modelscope/models/nlp/fid_T5/text_generation.py 文件76行# self.backbone.half()解除注释，mass后续sdk版本会支持可配置开启/关闭 半精度推理。赞0 踩0 评论0 -
回答了问题
2023-05-19
可以支持哪些语言呢
chatplug主要支持中文，英文也有部分能力支持，但没测试过，尚未清楚能力如何赞0 踩0 评论0
滑动查看更多
暂无更多信息