阿里云百炼大模型调自己的API返回速度有没有办法解决呢？
阿里云百炼大模型调自己的API返回速度有没有办法解决呢？我现在API是返回数据是非常快的，但是大模型去调用就非常的慢
展开
收起
1
条回答
写回答
写回答
-
模型去调用api也是很快的，只是模型组织语言输出是比较慢的。建议使用流式输出，会看到模型逐渐输出的过程。
此回答整理自钉群“阿里云百炼使用体验”2024-06-12 22:29:06赞同 1 展开评论 打赏
问答标签：
相关产品：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
基于通义系列大模型和开源大模型的一站式大模型服务平台，提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型，也为小应用。 阿里云百炼官网网址：https://www.aliyun.com/product/bailian
热门讨论
热门文章
阿里云百炼的data = json.loads(json_string)是什么意思呀？
2073
阿里云百炼新版本企业知识库的文档上传API现在开放了吗？
227
在api调用夸克搜索时，遇到权限不足问题
384
通义千问的哪种模型的api支持传输文件？
572
flux-schell模型出问题了吗？
23
阿里云百炼通义千问MAX 和 通义千问2-开源版-72B token和效果有什么区别？
277
在阿里云OpenAPI调用通义千问报错怎么办？
410
百炼平台是云部署还是本地部署？
329
阿里云百炼这个问题怎么解决？
203
全天候24小时无所不知AI助手是如何炼成的？
2539
展开全部
通义千问开源的QwQ模型，一个会思考的AI，百炼邀您第一时间体验
731
通义千问Qwen2-VL开源，API可直接调用！
1239
阿里云百炼产品月刊【2024年11月】
153
Qwen2大模型微调入门实战（完整代码）
6051
通义千问重磅开源Qwen2.5，性能超越Llama
2960
通义千问API：让大模型使用各种工具
73914
阿里云百炼大模型：引领企业智能化升级的下一代 AI 驱动引擎
376
阿里云百炼上线Qwen2.5-Turbo模型，可支持100万超长上下文
368
通义千问API入门教程
31541
【算法精讲系列】通义模型Prompt调优的实用技巧与经验分享
1084
展开全部
