函数计算FC对固化模型和可上传模型怎么看?期望:类似秋叶那种一键包我觉得稳定性和可推广性更好
函数计算(Function Compute,FC)是一种基于事件驱动的无服务器计算服务,它主要用于处理短时且高并发的任务。对于固化模型和可上传模型的支持,需要根据您具体的需求和使用场景来考虑。
固化模型:如果您的模型比较大且稳定,可以将模型存储在一个固定的位置(例如云存储服务或对象存储服务),然后在函数计算中直接引用该位置上的模型文件。这样,您可以通过函数计算来加载、预测和处理模型。固化模型适用于模型较大且相对稳定的情况,可以减少每次部署函数时上传模型的时间和资源消耗。
可上传模型:如果您的模型比较小或经常需要更新,可以选择将模型作为函数计算的一部分进行上传。在每次函数调用时,函数计算会将模型加载到内存中,并使用该模型进行预测和处理。这种方式允许您将模型与函数代码一起打包,从而实现一键部署和更好的可推广性。但请注意,由于函数计算的限制,模型的大小可能受到一些限制,具体取决于所使用的云服务提供商。
在实际应用中,您可以根据模型的大小、稳定性要求和部署流程的复杂性来选择适合的方案。对于较大且稳定的模型,固化模型可能更为合适。对于小型或经常更新的模型,可上传模型可能更加方便。
阿里云函数计算(Function Compute)支持两种方式来使用模型:固化模型和可上传模型。
固化模型是指将模型代码和参数打包成一个文件,然后上传到函数计算服务中运行。这种方式的优点是可以提高运行效率,因为模型参数已经打包好,不需要再次加载和初始化,减少了运行时间。但是,固化模型需要在本地环境中进行打包和上传,可能会受到环境差异的影响,因此需要注意兼容性和可移植性。
可上传模型是指将模型代码和参数上传到某个存储服务中进行管理,然后在函数计算服务中动态加载和初始化模型。这种方式的优点是灵活性高,可以根据实际需要动态加载和更新模型,同时也可以方便地进行管理和迭代更新。但是,可上传模型需要进行网络传输和动态加载,可能会对运行效率产生一定的影响。
提到的类似秋叶那种一键打包的方式。可以使用阿里云的自动化部署工具 Serverless Devs,通过配置 s.yaml 文件来一键部署函数计算服务和模型。Serverless Devs 可以支持多种语言和框架,同时也提供了丰富的插件和模板,方便快速构建和部署应用程序。
新做的 sd 也算是一键包吧,塞不下太多模型,镜像打太大启动会变慢,目前我们新的 sd 模板里最大压缩前 15G,压缩后离 fc 支持的压缩后上限 10G 只错了不到 300M,已经塞到极限了,可以试下新的 sd 模板,初次体验应该足够了,此回答整理自钉群"【答疑群】人人都是创作家,Serverless 部署 AIGC 场景"
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。