ModelScope在pai按教程，部署chatglm-demo服务，post请求，返回错误为什么？
ModelScope在pai按教程，部署chatglm-demo服务，post请求，返回错误为什么？
"None Inference failure: 'input_ids'"
展开
收起
1
条回答
写回答
写回答
-
这个请求格式不对的，而且服务需要设置worker_threads为1，请参考这个文档：
https://help.aliyun.com/zh/pai/use-cases/deploy-chatglm-and-langchain-applications-with-one-click-pai-eas-for-5
格式类似：
-此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”2023-08-15 08:19:12赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
9432
com/action/joingroup?code=v1是什么意思
6918
服务器上onnxruntime-gpu 调用结束，如何释放显存
5112
我希望通过damo-YOLO训练1500*1500的图片
8530
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2131
在ModelScope中，请问模型下载到本地的具体方法？
1526
如何下载modelscope模型？
1254
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3405
ModelScope 使用14B模型推理时报这个错误？
1779
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
2603
展开全部
