开发者社区> 问答> 正文

百联大模型一个账号可以开通多少用户同时使用?

百联大模型一个账号可以开通多少用户同时使用?

展开
收起
爱喝咖啡嘿 2024-07-19 17:28:03 24 0
2 条回答
写回答
取消 提交回答
  • 一个主账号下的多个用户(通过不同的API-KEY)可以共享该账号的模型调用权限,但需要共同遵守账号的调用限制,如QPS(每秒查询次数)和TPM(每分钟Token消耗)的上限。

    2024-07-19 19:39:11
    赞同 1 展开评论 打赏
  • 一个账号开通大模型服务平台百炼后,可以通过阿里云RAM子账号和共享API-KEY两种方式将服务共享给不同的人使用。

    1、通过子账号授权给其他人使用

    百炼支持针对RAM子账号进行授权使用,而且支持对子账号进行权限管控,也可以给不同子账号授予不同的业务空间权限,不同业务空间的数据互不影响,存在隔离。

    限制:一个主账号最多可以创建5000个RAM子账号

    2、通过共享API-KEY使用

    将开通百炼服务的账号创建的API-KEY共享给其他人使用,API-KEY是调用百炼API的必传参数,共享给其他人之后不方便管控,会有泄露造成损失的风险,不建议使用此方案。

    限制:API-KEY使用总人数没有上限,但是为了确保资源的公平分配和系统稳定性,同一个账号调用百炼服务,每个模型有不同的默认基础限流和并发限制,具体包含QPS(每秒并发限制)、RPM(每分钟并发限制)、TPM(每分钟处理输入+输出tokens总数限制),多人使用同一个账号调用,不能超出每分钟和每秒的基础限流和并发限制。

    由于百炼模型较多,具体并发限流策略建议查看百炼模型官方文档。

    通义千问模型并发限流策略:

    2024-07-19 17:57:39
    赞同 1 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载