qwen-max-longcontext 模型的限流情况有什么？
qwen-max-longcontext 模型的限流情况有什么？
展开
收起
1
条回答
写回答
写回答
-
qwen-max-longcontext 模型的限流情况如下：
- 调用频次限制：
- 限流阈值： ≤ 5 QPM
- 说明： 每分钟允许的API调用次数不超过5次。
2 . Token消耗限制：
- 限流阈值： ≤ 1500,000 TPM
- 说明： 每分钟消耗的Token数目不超过1500,000个。 以上两个条件中，只要任意一个超出设定阈值，就会触发限流机制。请注意，限流策略可能会随时间发生变化。如需申请超出基础限流配额，请点击相应申请链接。
另外可参考以下链接：
模型介绍：https://help.aliyun.com/zh/dashscope/developer-reference/model-introduction?spm=a2c4g.11186623.0.i19模型支持30k tokens上下文，为了保证正常的使用和输出，API限定用户输入为28k tokens。
使用命令行进行模型定制及部署：https://help.aliyun.com/zh/dashscope/developer-reference/command-line-tool-details?spm=a2c4g.11186623.0.i26
2024-07-29 11:25:24赞同 2 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
问答排行榜
最热
最新
推荐问答
