【 函数计算,GPU最高24G吗,有没有提高的方法?
】
联系对应云服务商看是否支持申请提升GPU资源增益。有些服务商允许根据需求提升增益。
尝试使用更高配置的函数运行时,例如搭载更大GPU的定制运行时。
优化模型和代码并减少单次调用对GPU资源的占用。比如减小batch size。
将模型分布运行在多个函数实例上,每个实例使用部分GPU资源。
根据具体业务场景,考虑迁移部分计算任务到专用的深度学习环境中执行。
等待公有云持续升级硬件资源,函数计算也可能相应限制增加。
选择专业的AI服务如加速卡,它们相比在GPU资源上计算的函数会更加弹性。
根据实际需求规模,也可以考虑自建AI供应的方案。
所以总体思路是:
与云服务商洽谈
使用更高配置运行时
优化模型与代码
分配部署
迁移部分任务
选择专业AI服务
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。