开发者社区 > 云原生 > Serverless > 正文

函数计算FC能否部署lora模型训练器?git上一个开源的项目

函数计算FC能否部署lora模型训练器?git上一个开源的项目

展开
收起
三分钟热度的鱼 2024-01-10 15:58:09 81 0
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    函数计算(Function Compute)确实支持部署LORA模型训练器。首先,你需要准备好用于训练Lora模型的数据集,这些数据集应包含输入数据和对应的标签或输出结果。然后,使用Python或其他支持的语言编写训练代码,包括数据预处理、模型定义、训练过程等。

    在函数计算FC上,你可以使用Stable Diffusion(SD)模型进行LORA(Low-Rank Approximation)训练。需要注意的是,训练的成本会受到多种因素的影响,包括训练数据量、模型大小、服务器规格以及训练时间。此外,如果你需要自定义模型,还需要借助NAS产品的存储能力来存储你的模型文件。

    2024-01-13 14:46:47
    赞同 展开评论 打赏
  • 阿里云函数计算(Function Compute)确实支持部署LORA模型训练器。首先,你需要准备用于训练LORA模型的数据集,数据集应该包含输入数据和对应的标签或输出结构。然后,你可以使用kohya_ss应用在函数计算FC云端进行LORA模型的训练。

    需要注意的是,如果你想要在阿里云函数计算中训练LORA模型,可能会受到多种因素的影响,包括训练数据的大小,使用的硬件配置,以及运行的时间等,这些都可能导致训练成本的变化。例如,如果基础大模型3.97 GB,Lora模型400 MB,那么您可以免费存储2个大模型、3个Lora模型。

    另外,在部署过程中,你也可以使用Git上的开源项目。如果该项目提供了部署脚本,例如s.yml文件,你可以在本地目录中执行 "s deploy"的相关命令将资源部署到函数计算。

    2024-01-12 08:45:28
    赞同 展开评论 打赏
  • 部署没问题,但是需要看对应的项目是否适配 Serverless 模式。由于 Serverless 只有有调用的情况下才收费,所以只有有请求的情况下才会执行,无法运行背景线程。训练这种长时间的任务需要建立长连接。打一个镜像,直接创建函数就行哈。参考https://help.aliyun.com/zh/fc/use-cases/serverless-ai-inference-based-on-function-compute-and-tensorflow?spm=a2c4g.11186623.0.0.559616ecBV2FUi 此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2024-01-10 16:05:48
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 热门讨论

    热门文章

    相关电子书

    更多
    大规模机器学习在蚂蚁+阿里的应用 立即下载
    阿里巴巴机器学习平台AI 立即下载
    机器学习及人机交互实战 立即下载