函数计算FC有时候访问人数比较多,一个实例同一时间只能生成一张图,我想通过启动更多的实例来同时生成更多的图片,我看后台弹性管理,可以根据指标修改限制,是有一个根据指标修改限制,可以设置利用率类型为GPU显存利用率,利用率阈值选60%,我的问题是:这样设置后,如果超过了这个阈值,是不是会自动启动新的实例?另外启动新的实例,我要如何访问这个新的实例呢?
是的,当您设置了利用率阈值并超过该阈值时,函数计算FC会自动启动新的实例来满足需求。
要访问新启动的实例,您可以使用以下方法之一:
example.com
,端口号为8080
,则可以通过http://example.com:8080
来访问新实例。请注意,根据您的实际情况,可能需要调整实例数量、域名和端口号等参数。
是的,您可以在阿里云函数计算(FC)中设置利用率阈值来自动启动新的实例。当利用率超过设定的阈值时,系统将自动创建新的实例以处理更多的请求。
要访问新创建的实例,您需要确保您的应用程序能够正确地处理多个实例之间的通信。这通常涉及到使用负载均衡器或服务发现机制来分配请求到正确的实例。
如果您的应用程序是基于HTTP的,您可以使用负载均衡器来分发请求。负载均衡器可以配置为根据实例的健康状况和性能动态地分配请求。您可以将负载均衡器的域名设置为与原始域名相同,以便用户可以通过相同的域名访问所有实例。
如果您的应用程序是基于消息队列的,例如RabbitMQ或Kafka,您可以使用服务发现机制来获取新创建的实例的地址。服务发现机制可以自动检测新创建的实例并将它们添加到可用的服务列表中。然后,您的应用程序可以使用这些地址来连接到新创建的实例并发送/接收消息。
总之,通过正确配置和管理实例,您可以实现同时生成更多图片的需求,并通过负载均衡器或服务发现机制来访问新创建的实例。
如果是通过 webui 页面访问的话,建议是建立多个不同的应用(serviceName 区分开),让大家分开访问
如果是 api 模式,可以删掉最大实例数限制,单实例并发度调成 1~5,这样每个实例最多有 5 个请求排队,再多就会弹新实例
webui 这里存在状态问题,出图请求和获取进度请求是分开的,如果打到不同实例会找不到进度导致报错,没法直接调整实例数 ,此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。