开发者社区 > 云原生 > Serverless > 正文

函数计算FC的SD部署支持高并发吗?

函数计算FC的SD部署支持高并发吗?

展开
收起
三分钟热度的鱼 2023-12-13 19:16:01 72 0
3 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    函数计算FC的SD部署确实支持高并发,具体的并发量则取决于所选的实例配置。如果选择较高的配置,系统将能支持更高的并发量。然而,需注意的是,函数计算服务通常会提供资源配额,以限制每个用户或账户的并发执行。因此,在部署SD服务时,需要根据自身的需求和并发规模来选择合适的实例配置。

    此外,如果在部署Stable Diffusion(SD)服务时遇到多次部署失败的情况,可能是由于配置错误导致的。在这种情况下,应仔细检查部署配置并参照相关文档进行修正。

    对于要部署多用户的 SD 并确保互不影响的场景,建议采取以下策略:分离资源,通过设置不同命名空间和账户以确保 SD 之间的隔离;为每个用户提供专属的服务实例。这样可以有效地降低并发冲突,提升系统的并发处理能力。

    2023-12-15 15:25:27
    赞同 展开评论 打赏
  • api 模式目前默认可以创建 10 个实例,允许同时有 10 个请求同时出图。如果有需要可以调大限制。d webui 本身有限制,同一个程序只能同时出一张图。此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”

    2023-12-13 19:29:25
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    函数计算FC(Function Compute)的SDK(Software Development Kit)部署是支持高并发的。具体来说,FC通过分布式架构来处理高并发的请求,能够实现自动负载均衡、容错和扩展。
    在FC中,函数被划分为多个版本,每个版本可以独立部署和扩展。当一个函数版本达到其并发限制时,FC会自动创建一个新的版本来处理额外的请求,从而实现水平扩展。同时,FC还提供了自动负载均衡机制,将请求分配给多个函数实例,从而实现请求的均衡处理。

    设置实例并发度

    函数计算按实例占用时长计费。假设访问数据库需要10秒,那么当并发的3个请求分别在3个实例内被处理后,3个实例总的执行时长是30秒。如果能让这3个请求在同一个实例内并发处理,这样实例的占用时间为10秒。为了帮助您节省实例资源费用,函数计算支持单实例多并发功能,允许您为函数设置实例并发度InstanceConcurrency,即单个函数实例可以同时处理多个请求。单实例并发和多实例并发的区别如下图所示。

    image.png

    假设同时有3个请求需要处理:

    当实例并发度设置为1时,每个实例同时只能处理1个请求,函数计算需要创建3个实例来处理这3个请求。

    当实例并发度设置为10时,每个实例同时可以处理10个请求,函数计算只需要创建1个实例就能处理这3个请求。

    image.png

    设置单实例多并发的影响

    设置了单实例多并发(InstanceConcurrency>1)之后,与单实例单并发(InstanceConcurrency=1)有以下几个方面的区别:

    计费
    单实例单并发

    函数实例在同一时间只能处理1个请求,1个请求处理完了再处理下一个请求。计费时长从处理第一个请求开始,到最后一个请求结束为止。

    image.png
    image.png

    2023-12-13 19:24:07
    赞同 展开评论 打赏

快速交付实现商业价值。

相关产品

  • 函数计算
  • 相关电子书

    更多
    徐雷-Java为王,互联网高并发架构设计与选型之路6.0 立即下载
    Redis 的高并发实战:抢购系统 立即下载
    MySQL高并发场景实战 立即下载