问题一:环境是我拉取GPU镜像跑的,跑的是gpt-3(1.3B)推理,ModelScope这个问题怎么解决?
环境是我拉取GPU镜像跑的,跑的是gpt-3(1.3B)推理,ModelScope这个问题怎么解决?
参考回答:
镜像没有挂上gpu
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484272?spm=a2c6h.14164896.0.0.46ad2605da7QxT
问题二:ModelScope这两个镜像404访问不到了有最新链接吗?
参考回答:
CPU环境镜像(版本号:1.0.2):
registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-py37-torch1.11.0-tf1.15.5-1.1.2
GPU环境镜像(版本号:1.0.2):
registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.3.0-py37-torch1.11.0-tf1.15.5-1.1.2
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/476864?spm=a2c6h.14164896.0.0.46ad2605da7QxT
问题三:ModelScope这个容器镜像在使用的时候有什么特殊要求嘛?
ModelScope这个容器镜像在使用的时候有什么特殊要求嘛?
参考回答:
镜像里面要运行什么job,需要自己写
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/476870?spm=a2c6h.14164896.0.0.46ad2605da7QxT
问题四:odelScope使用了官方的docker的cpu镜像,这个问题怎么解决?
ModelScope使用了官方的docker的cpu镜像,启动了容器,运行个模型代码还是报错[笑哭],报错缺少apex模块,然后pip install apex 后,又报了新的错误 cannot import name 'UnencryptedCookieSessionFactoryConfig' from 'pyramid.session' (unknown location) ,网上资料说直接从github下载apex,然后直接安装,操作后又报了新错误,这是缺失cuda_home的问题么?
参考回答:
这种情况,这个模型需要gpu才能运行
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484260?spm=a2c6h.14164896.0.0.46ad2605da7QxT
问题五:请问tf与pytorch都有国内的镜像源,一般安装gpu版本不会超过10分钟,请问你们有镜像加速吗?
请问tf与pytorch都有国内的镜像源,一般安装gpu版本不会超过10分钟,包括其它库。我今天用anaconda安装modelscope时,一小时还没安装好,请问你们有镜像加速吗?
参考回答:
加速目前就是指定镜像就好了。比如您这边如果链接清华源比较快,那肯定是所有的依赖库从清华源下载都会快的,应该加上 -i https://pypi.tuna.tsinghua.edu.cn/simple 就是用清华源。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/470891?spm=a2c6h.14164896.0.0.6efc26057BNTXY