开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

机器学习PAI目前启动的时候默认将GPU机器占满,请问可以设置成动态占用gpu内存吗?

机器学习PAI目前启动的时候默认将GPU机器占满,请问可以设置成动态占用gpu内存吗?

展开
收起
真的很搞笑 2023-08-14 14:51:05 116 0
1 条回答
写回答
取消 提交回答
  • PAI 目前可以通过以下两个方法动态占用 GPU 内存:

    使用 allow_growth 参数。
    使用 gpu_memory_fraction 参数。
    使用 allow_growth 参数可以让 TensorFlow 动态申请 GPU 内存,即只申请使用到的内存。

    使用 gpu_memory_fraction 参数可以设置 TensorFlow 在使用 GPU 时所使用的内存占比。

    例如,以下配置表示 TensorFlow 在使用 GPU 时最多使用 0.5 的内存:

    gpu_memory_fraction: 0.5
    希望以上内容对您有所帮助。

    2023-09-22 11:47:21
    赞同 展开评论 打赏

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

相关产品

  • 人工智能平台 PAI
  • 热门讨论

    热门文章

    相关电子书

    更多
    DeepStream: GPU加速海量视频数据智能处理 立即下载
    阿里巴巴高性能GPU架构与应用 立即下载
    GPU在超大规模深度学习中的发展和应用 立即下载