"docker run --rm --name Qwen2-57B-A14B-Instruct-server --gpus all -e MODELSCOPE_CACHE=/modelscope_cache -v /data/xxx/modelscope/qwen:/modelscope_cache -p 28000:8000 modelscope-registry.cn-beijing.cr.aliyuncs.com/modelscope-repo/modelscope:ubuntu22.04-cuda12.1.0-py310-torch2.3.0-tf2.16.1-1.16.0 modelscope server --model_id=qwen/Qwen2-57B-A14B-Instruct -- ModelScope中, revision=master一直提示找不到 FileNotFoundError ,怎么解决? : [Errno 2] No such file or directory: 'qwen/Qwen2-57B-A14B-Instruct'
"
"您新建/data/xxx/qwen2-57b-a14b-instruct
下载模型
from modelscope.hub.snapshot_download import snapshot_download
model_dir = snapshot_download('qwen/Qwen2-57B-A14B-Instruct',cache_dir='/data/xxx/qwen2-57b-a14b-instruct/hub')
docker run --rm --name Qwen2-57B-A14B-Instruct-server --gpus all -e MODELSCOPE_CACHE=/modelscope_cache -v /data/xxx/qwen2-57b-a14b-instruct:/modelscope_cache -p 28000:8000 modelscope-registry.cn-beijing.cr.aliyuncs.com/modelscope-repo/modelscope:ubuntu22.04-cuda12.1.0-py310-torch2.3.0-tf2.16.1-1.16.0 modelscope server --model_id=qwen/Qwen2-57B-A14B-Instruct --revision=master 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352