modelscope - WARNING - Find task: chat,怎么办?
2024-02-15 18:40:03,882 - modelscope - WARNING - Find task: chat, model type: None. Insufficient information to build preprocessor, skip building preprocessor
2024-02-15 18:40:04,813 - modelscope - INFO - pipeline created.
INFO: Application startup complete.
INFO: Uvicorn running on http://0.0.0.0:8000 (Press CTRL+C to quit)
用官方docker部署qwen/Qwen-7B-Chat,运行到上面这个状态,下一步怎么测试呀
要测试这个模型,你可以使用curl或者Postman等工具发送HTTP请求到服务器的8000端口。以下是一个使用curl的示例:
curl -X POST "http://0.0.0.0:8000/chat" -H "accept: application/json" -H "Content-Type: application/json" -d '{
"input": "你好",
"model_type": "qwen/Qwen-7B-Chat"
}'
将上述命令中的"你好"
替换为你想要提问的内容。如果一切正常,你应该会收到一个包含回答的JSON响应。
启动本地服务,参考此文档的命令试一下https://modelscope.cn/docs/%E6%9C%AC%E5%9C%B0%E5%90%AF%E5%8A%A8%E6%9C%8D%E5%8A%A1
--此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352