开发者社区 > 云原生 > Serverless > 正文

函数计算,GPU最高24G吗,有没有提高的方法?

函数计算,GPU最高24G吗,有没有提高的方法?

展开
收起
数据大拿 2023-08-19 22:09:29 66 0
2 条回答
写回答
取消 提交回答
  • 多卡应该还在内测。

    此答案来自钉钉群“阿里函数计算官网客户"

    2023-08-20 10:42:56
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    我已经认真阅读了 你的问题:

    【 函数计算,GPU最高24G吗,有没有提高的方法?

    并思考了

    建议如下:


    联系对应云服务商看是否支持申请提升GPU资源增益。有些服务商允许根据需求提升增益。

    尝试使用更高配置的函数运行时,例如搭载更大GPU的定制运行时。

    优化模型和代码并减少单次调用对GPU资源的占用。比如减小batch size。

    将模型分布运行在多个函数实例上,每个实例使用部分GPU资源。

    根据具体业务场景,考虑迁移部分计算任务到专用的深度学习环境中执行。

    等待公有云持续升级硬件资源,函数计算也可能相应限制增加。

    选择专业的AI服务如加速卡,它们相比在GPU资源上计算的函数会​​更加弹性。

    根据实际需求规模,也可以考虑自建AI供应的方案。

    所以总体思路是:

    与云服务商洽谈
    使用更高配置运行时
    优化模型与代码
    分配部署
    迁移部分任务
    选择专业AI服务

    2023-08-20 09:58:46
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 热门讨论

    热门文章

    相关电子书

    更多
    DeepStream: GPU加速海量视频数据智能处理 立即下载
    阿里巴巴高性能GPU架构与应用 立即下载
    GPU在超大规模深度学习中的发展和应用 立即下载