开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

机器学习PAI 1、求问-Dcluster参数设置建议,使用PAI命令行时,查看训练信息的路径?

机器学习PAI
1、求问-Dcluster参数设置建议,目前在测试案例数据的multiTower模型,PS节点一直是running状态,数据集链接【https://tianchi.aliyun.com/dataset/56】2、以及使用PAI命令行时,查看训练信息的路径![932401b461d06665916aed572a87c7a5.png](https://ucc.alicdn.com/pic/developer-ecology/wyvq5mjsckydw_f66018e92f044d6a96b1e515c88dd867.png)
目前参数配置'{"ps":{"count":1, "cpu":1000}, "worker" : {"count":3, "cpu":1000, "gpu":100, "memory":40000}}',是不是要的CPU太多,等不到资源?

展开
收起
真的很搞笑 2023-12-10 15:40:27 50 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。
    1. 对于DCluster参数设置建议,可以考虑以下几点:

      • 调整PS节点的CPU和内存资源,可以尝试减少CPU资源,例如将cpu从1000降低到500。
      • 调整Worker节点的GPU资源,可以尝试增加GPU数量,例如将gpu从100增加到200。
      • 调整Worker节点的内存资源,可以尝试增加内存大小,例如将memory从40000增加到80000。
      • 检查集群的网络状况,确保网络带宽足够支持模型训练。
    2. 在PAI命令行中查看训练信息,可以使用以下命令:

      $ aliyun ps logs --job-id <your_job_id>
      

      其中<your_job_id>需要替换为你的训练任务ID。

    2023-12-11 13:49:56
    赞同 展开评论 打赏
  • 就是和pai tensorflow一样的查看方式;之前一直等资源是因为我们集群gpu太少,等不到gpu资源导致 ,此回答整理自钉群“【EasyRec】推荐算法交流群”

    2023-12-11 13:06:06
    赞同 展开评论 打赏

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

相关产品

  • 人工智能平台 PAI
  • 热门讨论

    热门文章

    相关电子书

    更多
    大规模机器学习在蚂蚁+阿里的应用 立即下载
    阿里巴巴机器学习平台AI 立即下载
    微博机器学习平台架构和实践 立即下载