ModelScope阿里云的ecs有更便捷的部署qwen0.5b的办法吗?
你想部署成gradio的话得自己弄下ecs py环境,然后运行gradio那个代码就行了,应该还没现成的docker
https://github.com/modelscope/dash-infer/blob/main/examples/python/0_basic/basic_example_qwen_v20.py 这是个例子, 镜像可以用 https://github.com/modelscope/dash-infer/blob/main/documents/CN/installation.md 这个文档中的 docker pull registry-1.docker.io/dashinfer/dev-centos7-x86:v1_py310
你用那个docker镜像 可以跑notebook那些代码的 ,docker把环境都配好了 ,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352