阿里云百炼这个输入字数大概9个，输入token计算出来有3101个，怎么回事？
阿里云百炼这个输入字数大概9个，输入token计算出来有3101个，怎么回事？
展开
收起
1
条回答
写回答
写回答
-
正常的，检索出来的结果也是 prompt，数量会包含到 tokens。只要使用应用，无论是否开检索增强，都会有额外的prompt模板输入（因为会有大模型thought过程，以及模板拼接），所以实际的模型输入是远大于用户query的。此回答整理自钉群“阿里云百炼使用体验”
2024-05-23 10:28:00赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
热门讨论
热门文章
【云端读书会 第1期】读《10分钟打造专属AI助手》，你有哪些心得？
2646
阿里云百炼的data = json.loads(json_string)是什么意思呀？
1683
阿里云百炼新版本企业知识库的文档上传API现在开放了吗？
69
在api调用夸克搜索时，遇到权限不足问题
285
全天候24小时无所不知AI助手是如何炼成的？
2476
通义千问的哪种模型的api支持传输文件？
484
百炼平台是云部署还是本地部署？
274
在阿里云OpenAPI调用通义千问报错怎么办？
380
阿里云百炼的 计费和部署计费 是分开的么？
298
阿里云百炼大模型调自己的API返回速度有没有办法解决呢？
233
展开全部
