开发者社区 > 云原生 > Serverless > 正文

阿里函数计算中创建的自定义GPU函数后,需要使用模型的文件应该怎么放置啊?

阿里函数计算中创建的自定义GPU函数后,需要使用模型的文件应该怎么放置啊?因为模型文件比较大,没有打包在容器中。我看官方提供的SD模板,是创建一个模型管理函数使用的,那么我如果创建自定义的函数,都需要创建一个admin管理函数吗?使用nas也有不少成本。

展开
收起
小小鹿鹿鹿 2023-11-14 22:06:11 56 0
3 条回答
写回答
取消 提交回答
  • 在阿里云函数计算中,如果你需要使用外部的模型文件,你可以将其放置在OSS或其他外部存储中,然后在函数中通过访问外部存储的方式来加载模型文件。

    以下是一个简单的示例,展示了如何在Python函数中使用OSS来加载模型文件:

    import os
    import oss2
    
    # 替换为你的AccessKeyId和AccessKeySecret
    access_key_id = 'your_access_key_id'
    access_key_secret = 'your_access_key_secret'
    endpoint = 'your_endpoint'
    bucket_name = 'your_bucket_name'
    object_key = 'your_object_key'
    
    # 初始化OSS客户端
    auth = oss2.Auth(access_key_id, access_key_secret)
    client = oss2.Client(auth, endpoint)
    
    # 从OSS中加载模型文件
    model_file = client.get_object(bucket_name, object_key)
    with model_file as f:
        # 加载模型
        model = pickle.load(f)
    
    # 使用模型进行预测...
    

    在这个示例中,我们首先初始化了一个OSS客户端,然后使用这个客户端从OSS中加载了模型文件。注意,你需要将access_key_idaccess_key_secretendpointbucket_nameobject_key替换为你的实际值。

    至于是否需要创建一个Admin管理函数来管理模型文件,这完全取决于你的需求。如果你的函数需要频繁地加载和更新模型文件,那么你可能需要一个Admin管理函数来帮助你完成这些操作。然而,如果你的函数只需要加载一次模型文件,并且在运行期间不需要更新模型文件,那么你可能不需要一个Admin管理函数。

    总的来说,你需要根据你的具体需求和应用场景来决定是否需要一个Admin管理函数。

    2023-11-15 15:52:43
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    您可以在函数计算(Function Compute,FC)中上传和使用大型 GPU 训练模型文件。具体方法如下:

    1. 首先,您可以在 FC 控制台上的 “资源管理 > 存储服务 > NAS 存储” 下创建一个 NAS 服务,并将训练模型上传到该 NAS 上的一个路径。
    2. 然后,将您的 NAS 服务与您的函数计算服务进行关联。这样,您的函数就可以访问该 NAS 上的内容。
    3. 接下来,在编写您的函数代码时,您可以将该 NAS 上的路径作为一个输入参数传递给函数,这样函数就会从指定的 NAS 路径读取模型文件。
    4. 对于训练完成后的结果或中间过程数据,也可以将其保存回 NAS 上的某个位置。
      注意:由于上传到 NAS 会产生一些费用,您可以适当考虑其他替代方案,例如挂载 EFS 或 OSS 进行上传和读取数据。
    2023-11-15 13:56:36
    赞同 展开评论 打赏
  • 放在nas里。此回答来自钉群阿里函数计算官网客户。

    2023-11-14 23:55:53
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 热门讨论

    热门文章

    相关电子书

    更多
    Hologres Serverless之路:揭秘弹性计算组 立即下载
    Serverless开发平台: 让研发效能再提升 立即下载
    Serverless 引领云上研发新范式 立即下载