modelscope中，量化 web 启动有例子吗？
" File ""/home/ai/.cache/huggingface/modules/transformers_modules/checkpoint-53900-merged-awq-int4/modeling_baichuan.py"", line 595, in from_pretrained
if hasattr(config, ""quantization_config"") and config.quantization_config['load_in_4bit']:
KeyError: 'load_in_4bit' /nvme0/hub/swift_model/checkpoint-53900-merged-awq-int4 modelscope中，量化 web 启动有例子吗？"
展开
收起
相关问答
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
热门讨论
热门文章
ModelScope下载速度慢怎么解决？
2218
ModelScope服务器太差了，下个模型断断续续的，有解决办法吗？
629
关于模型的下载，huggingface下载速度太慢，如何在modelscope快速下载？
5955
ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
6673
modelscope这个下载有点慢呀，好几次都超时了，怎么解决？
1566
我希望通过damo-YOLO训练1500*1500的图片
9483
ModelScope中，模型下载默认路径在哪个路径？
11027
ollama+open-webui的一个小问题
278
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
1624
modelscope下载 的模型 如何转ollama
1006
展开全部
DeepSeek-V2.5-1210 在线开放使用！支持联网搜索，在各大领域的表现得到全面提升
8417
手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型，创建个性化 AI 助手
1747
UE-蓝图中的使用正则表达式
1548
VISION XL：支持四倍超分辨率的 AI 视频修复处理工具，提供去除模糊、修复缺失等功能
1193
实战阿里qwen2.5-coder 32B，如何配置Cline的Ollama API接口。
2387
阿里云PAI部署DeepSeek及调用
585
Deepseek开源R1系列模型，纯RL助力推理能力大跃升！
1619
Janus-Pro：DeepSeek 开源的多模态模型，支持图像理解和生成
632
Qwen2.5-Max：阿里通义千问超大规模 MoE 模型，使用超过20万亿tokens的预训练数据
466
AnchorCrafter：中科院联合腾讯推出的AI虚拟主播带货视频制作技术
544
展开全部
