ModelScope问题之odelScope使用了官方的docker的cpu镜像如何解决

简介: ModelScope镜像是指用于在ModelScope平台上创建和管理的容器镜像,这些镜像包含用于模型训练和推理的环境和依赖;本合集将说明如何使用ModelScope镜像以及管理镜像的技巧和注意事项。

问题一:环境是我拉取GPU镜像跑的,跑的是gpt-3(1.3B)推理,ModelScope这个问题怎么解决?


环境是我拉取GPU镜像跑的,跑的是gpt-3(1.3B)推理,ModelScope这个问题怎么解决?


参考回答:

镜像没有挂上gpu


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484272?spm=a2c6h.14164896.0.0.46ad2605da7QxT


问题二:ModelScope这两个镜像404访问不到了有最新链接吗?


参考回答:

CPU环境镜像(版本号:1.0.2):

registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-py37-torch1.11.0-tf1.15.5-1.1.2

GPU环境镜像(版本号:1.0.2):

registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.3.0-py37-torch1.11.0-tf1.15.5-1.1.2


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/476864?spm=a2c6h.14164896.0.0.46ad2605da7QxT


问题三:ModelScope这个容器镜像在使用的时候有什么特殊要求嘛?


ModelScope这个容器镜像在使用的时候有什么特殊要求嘛?


参考回答:

镜像里面要运行什么job,需要自己写


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/476870?spm=a2c6h.14164896.0.0.46ad2605da7QxT


问题四:odelScope使用了官方的docker的cpu镜像,这个问题怎么解决?


ModelScope使用了官方的docker的cpu镜像,启动了容器,运行个模型代码还是报错[笑哭],报错缺少apex模块,然后pip install apex 后,又报了新的错误 cannot import name 'UnencryptedCookieSessionFactoryConfig' from 'pyramid.session' (unknown location) ,网上资料说直接从github下载apex,然后直接安装,操作后又报了新错误,这是缺失cuda_home的问题么?


参考回答:

这种情况,这个模型需要gpu才能运行


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484260?spm=a2c6h.14164896.0.0.46ad2605da7QxT


问题五:请问tf与pytorch都有国内的镜像源,一般安装gpu版本不会超过10分钟,请问你们有镜像加速吗?


请问tf与pytorch都有国内的镜像源,一般安装gpu版本不会超过10分钟,包括其它库。我今天用anaconda安装modelscope时,一小时还没安装好,请问你们有镜像加速吗?


参考回答:

加速目前就是指定镜像就好了。比如您这边如果链接清华源比较快,那肯定是所有的依赖库从清华源下载都会快的,应该加上 -i https://pypi.tuna.tsinghua.edu.cn/simple 就是用清华源。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/470891?spm=a2c6h.14164896.0.0.6efc26057BNTXY

相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
相关文章
|
3月前
|
JavaScript Docker 容器
使用Docker多阶段构建优化镜像大小
使用Docker多阶段构建优化镜像大小
381 100
|
3月前
|
缓存 安全 Linux
优化Docker镜像大小的多阶段构建实践
优化Docker镜像大小的多阶段构建实践
314 99
|
3月前
|
缓存 Docker 容器
优化Docker镜像大小的五个实用技巧
优化Docker镜像大小的五个实用技巧
330 98
|
3月前
|
安全 Go Docker
使用Docker多阶段构建优化镜像大小
使用Docker多阶段构建优化镜像大小
|
2月前
|
NoSQL 算法 Redis
【Docker】(3)学习Docker中 镜像与容器数据卷、映射关系!手把手带你安装 MySql主从同步 和 Redis三主三从集群!并且进行主从切换与扩容操作,还有分析 哈希分区 等知识点!
Union文件系统(UnionFS)是一种**分层、轻量级并且高性能的文件系统**,它支持对文件系统的修改作为一次提交来一层层的叠加,同时可以将不同目录挂载到同一个虚拟文件系统下(unite several directories into a single virtual filesystem) Union 文件系统是 Docker 镜像的基础。 镜像可以通过分层来进行继承,基于基础镜像(没有父镜像),可以制作各种具体的应用镜像。
504 5
|
3月前
|
Java Docker 容器
使用Docker多阶段构建优化镜像大小
使用Docker多阶段构建优化镜像大小
206 8
|
4月前
|
缓存 Ubuntu Docker
Ubuntu环境下删除Docker镜像与容器、配置静态IP地址教程。
如果遇见问题或者想回滚改动, 可以重启系统.
311 16
|
4月前
|
运维 关系型数据库 数据库
应用官方 Docker 镜像已成熟,团队为何转向 Websoft9 而不再依赖 Bitnami
随着云原生发展,部署工具从 Bitnami 转向 Websoft9。后者基于官方镜像,提供多应用编排与统一运维,提升部署效率与维护能力,适合多系统协同场景。
应用官方 Docker 镜像已成熟,团队为何转向 Websoft9 而不再依赖 Bitnami
|
4月前
|
Ubuntu 网络安全 PHP
如何使用vscode的Docker插件管理ubuntu 拉取服务器的镜像以及创建容器
本测试镜像旨在记录使用vscode的Docker插件拉取病创建Dockerfile,以及拉取镜像。
|
5月前
|
存储 缓存 Serverless
【Azure Container App】如何在Consumption类型的容器应用环境中缓存Docker镜像
在 Azure 容器应用的 Consumption 模式下,容器每次启动均需重新拉取镜像,导致冷启动延迟。本文分析该机制,并提出优化方案:使用 ACR 区域复制加速镜像拉取、优化镜像体积、设置最小副本数减少冷启动频率,或切换至 Dedicated 模式实现镜像缓存,以提升容器启动效率和应用响应速度。
150 0