本地部署开源模型Qwen2.5-coder-32b，和直接使用线上api同样参数的模型，差距很大
我这边本地部署了一套Qwen2.5-coder-32B的模型，使用起来效果和直接调用线上API的效果，差别很大，我这边直接使用ollama本地部署的，想咨询下，本地和线上同样参数的模型有区别吗？有没有更好的本地开源编码模型可以用的；我想结合cline使用
展开
收起
相关问答
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
热门讨论
热门文章
ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
6168
com/action/joingroup?code=v1是什么意思
8275
ModelScope中，模型下载默认路径在哪个路径？
10768
ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？
4777
modelscope上跑报错，提示要pip install ttsfrd，搞不定
8155
modelscope-funasr的FunClip怎么安装的？
2764
ModelScope有没有人知道windows安装ttsfrd的方法或者ttsfrd源码？
1206
我希望通过damo-YOLO训练1500*1500的图片
9240
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2716
钉钉宜搭内如何将任务的流程表单发到工作群内，群内任意成员可以查看此任务，并选择是否接受任务？
159
展开全部
阿里云通义千问向全社会开放！
55204
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
3181
CosyVoice 2.0：阿里开源升级版语音生成大模型，支持多语言和跨语言语音合成，提升发音和音色等的准确性
1100
Large Motion Model：多模态运动生成模型，能够同时处理文本、音乐、视频等多种模态生成相应的运动动作
363
通义千问Qwen征文活动获奖公布
336
实战阿里qwen2.5-coder 32B，如何配置Cline的Ollama API接口。
726
WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈
877
multi-agent：多角色Agent协同合作，高效完成复杂任务
34891
PPTAgent：中科院开源AI工具，自动将文档转化为高质量PPT
154
千问团队开源会思考的QwQ模型，这模型成精了！
1134
展开全部
