机器学习PAI基于sd 训练的脚本 改成训练大模型的网络比如小点的1.3B的 一般可以跑起来吗？
机器学习PAI基于sd 训练的脚本 改成训练大模型的网络比如小点的1.3B的 一般可以跑起来吗？你们有跑通的例子参考吗？
展开
收起
1
条回答
写回答
写回答
-
一段时间以前用dynamo + disc backend 跑过 llama7b finetune，但效果不是很好，主要受限于 dynamo 没有办法 trace collective ops ，此回答整理自钉群“BladeDISC用户支持群”
2023-12-25 08:05:23赞同 展开评论 打赏
问答分类：
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
热门讨论
热门文章
P人出游，你是否需要一个懂你更懂规划的AI导游呢？来搭建专属文旅问答机器人吧
1566
如何高效的往交互建模（dsw）上传较大的文件，有从阿里云盘中直接下载或类似的方法吗？
3879
Stable Diffusion怎么部署，要多少费用？
568
PAI做了线性回归的模型，预测结果后，回归模型评估的节点，结果R2的值是负的，我理解R2的取值范围?
338
灵积平台上，用通义千问的开源大模型接口响应非常慢
178
在api调用夸克搜索时，遇到权限不足问题
270
modelscope 里面的模型用pipeline 做推理太慢怎样提高推理速度
1086
机器学习PAI我训练的AUC 0.7左右，这个效果是不是很差了？
342
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
889
为什么 PAI DSW中一直无法使用GPU加速tensorflow，如何使用GPU加速.
226
展开全部
【玩转数据系列九】机器学习为您解密雾霾形成原因
49072
【玩转数据系列六】文本分析算法实现新闻自动分类
19421
【玩转数据系列一】人口普查统计案例
16315
阿里巴巴机器学习系列课程
15803
机器学习PAI全新功效——实时新闻热点Online Learning实践
13611
云端深度学习框架TensorFlow读取数据IO的高效方式
7423
【玩转数据系列十一】机器学习PAI眼中的《人民的名义》
6442
阿里云机器学习平台PAI，助力降低机器学习的成本和技术门槛
6543
推荐系统之冷启动问题
5700
【数据科学老司机在线教学第二期】阿里云大数据生态协同过滤推荐系统实战
5267
展开全部
