一个主账号下的多个用户(通过不同的API-KEY)可以共享该账号的模型调用权限,但需要共同遵守账号的调用限制,如QPS(每秒查询次数)和TPM(每分钟Token消耗)的上限。
一个账号开通大模型服务平台百炼后,可以通过阿里云RAM子账号和共享API-KEY两种方式将服务共享给不同的人使用。
1、通过子账号授权给其他人使用
百炼支持针对RAM子账号进行授权使用,而且支持对子账号进行权限管控,也可以给不同子账号授予不同的业务空间权限,不同业务空间的数据互不影响,存在隔离。
限制:一个主账号最多可以创建5000个RAM子账号
2、通过共享API-KEY使用
将开通百炼服务的账号创建的API-KEY共享给其他人使用,API-KEY是调用百炼API的必传参数,共享给其他人之后不方便管控,会有泄露造成损失的风险,不建议使用此方案。
限制:API-KEY使用总人数没有上限,但是为了确保资源的公平分配和系统稳定性,同一个账号调用百炼服务,每个模型有不同的默认基础限流和并发限制,具体包含QPS(每秒并发限制)、RPM(每分钟并发限制)、TPM(每分钟处理输入+输出tokens总数限制),多人使用同一个账号调用,不能超出每分钟和每秒的基础限流和并发限制。
由于百炼模型较多,具体并发限流策略建议查看百炼模型官方文档。
通义千问模型并发限流策略:
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。