开发者社区 > 云原生 > Serverless > 正文

函数计算FC的nas版本建了一个模型,是不是换成自定义镜像用硬盘换gpu资源来的划算呢?

函数计算FC有一个培训项目里面计算冷启动的时候时间是计算用量的这个,nas版本的我也建了一个加载两g的模型18秒 4g的30多秒 是不是换成自定义镜像用硬盘换gpu资源来的划算呢? 还剩加载等待时间不知道有没人能说清楚

展开
收起
冰激凌甜筒 2023-07-12 12:56:06 73 0
3 条回答
写回答
取消 提交回答
  • 在函数计算(Function Compute,FC)中,冷启动时间指的是当函数长时间未被触发时,再次触发时需要重新初始化运行环境的时间。这个时间包括了加载函数代码、初始化资源、准备执行环境等过程。

    对于冷启动时间较长的情况,您可以考虑以下优化方案:

    1. 使用自定义镜像:通过创建自定义镜像,您可以将函数的运行环境和依赖预先编译打包,并在后续的函数调用中使用该自定义镜像作为基础镜像。这样可以减少冷启动时的初始化时间。

    2. 预热机制:定期触发函数以避免冷启动,保持函数的运行环境处于热状态。可以使用定时器或周期性任务来触发函数,以确保函数不会长时间处于非活动状态。

    3. 减小模型大小:如果您的函数依赖一个较大的模型文件,尽可能减小模型的大小,以减少加载时间。

    关于 NAS 版本和自定义镜像的选择,需要根据您的具体需求和预算进行考虑。NAS 版本适用于需要频繁更新函数代码的场景,而自定义镜像则适用于需要稳定和快速的启动时间的场景。使用硬盘替代 GPU 资源可能会减少计算总费用,但具体情况还需根据实际使用情况进行评估。

    2023-07-23 09:22:40
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    如果你的模型需要频繁读写大量的数据,或者需要进行大量的计算和处理,那么使用 GPU 资源可能会更加高效。因为 GPU 可以加速一些计算密集型的任务,例如深度学习、图形处理等。
    而如果你的模型只需要进行简单的文件读写或者计算任务,那么使用 NAS 文件存储可能已经足够满足需求。同时,使用 NAS 文件存储也可以享受到高可靠性、弹性扩展、数据备份等优势。

    2023-07-22 20:52:38
    赞同 展开评论 打赏
  • 极限一点应该可以 gpu、cpu 缩到 1/4,内存缩到一半,试了下缩掉配置后,出一张图变成 32 秒了,整体看下来对成本没啥影响,此回答整理自钉群"【答疑群】人人都是创作家,Serverless 部署 AIGC 场景"

    2023-07-12 13:17:27
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 热门讨论

    热门文章

    相关电子书

    更多
    DeepStream: GPU加速海量视频数据智能处理 立即下载
    阿里巴巴高性能GPU架构与应用 立即下载
    GPU在超大规模深度学习中的发展和应用 立即下载