codefuse 适用modelscope 本地加载模型时报错
codefuse 适用modelscope 本地加载模型时报错， 官方codefuse-ai/CodeFuse-CodeLlama-34B-4bits 中并没有pytorch_model-00001-of-00007.bin 文件
from modelscope.models import Model
# 加载模型和预处理器
# 传入模型ID 或 模型目录
model = Model.from_pretrained(model_name_or_path='codefuse-ai/CodeFuse-CodeLlama-34B-4bits', device='cuda:0')
展开
收起
2
条回答
写回答
写回答
-
从你提供的错误信息来看，你可能没有找到正确的模型文件。在官方的codefuse-ai/CodeFuse-CodeLlama-34B-4bits模型中，确实没有名为
pytorch_model-00001-of-00007.bin的文件。这可能是因为这个模型是使用TensorFlow而不是PyTorch构建的，因此没有对应的PyTorch版本。如果你需要使用PyTorch版本的模型，你可能需要寻找其他模型，或者在官方模型的基础上进行转换。另外，你也可以尝试使用其他的模型加载库，比如Hugging Face的Transformers库，它支持多种模型格式，包括TensorFlow和PyTorch。
2023-10-26 08:58:38赞同 1 展开评论 打赏 -
北京阿里云ACE会长modelscope无法在本地找到该模型。根据您提供的代码片段，您尝试从codefuse-ai/CodeFuse-Codellama-34B-4bits目录加载模型，但是该目录中并没有pytorch model-00001-of-00007.bin文件。
要解决这个问题，您需要确保您要加载的模型文件存在于指定的目录中。如果您是从GitHub或其他远程仓库克隆的模型，请确保已经下载了所有的模型文件。此外，请检查模型文件的名称是否与您尝试加载的文件名匹配。2023-10-26 08:05:35赞同 1 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope-funasr的FunClip怎么安装的？
1778
小白求助，跟着大模型微调教程做不太明白
699
如何下载llama模型到本地？
2807
modelscope-funasr有没有开源的语音唤醒，自定义唤醒？
402
modelscope-funasr实时ASR的微调该怎么操作？
518
报错AssertionError: choose a window size 400 that is
220
gpt3,加载数据时，MsDataset.load报错
1154
modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
246
在modelscope-funasr中找不到有效的 OpenPGP 数据，如何解决？
77
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
1128
展开全部
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
1532
告别Hugging Face模型下载难题：掌握高效下载策略，畅享无缝开发体验
368
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
1325
2024年6月118篇代码大模型论文最全整理
681
如何使用自然语言处理库`nltk`进行文本的基本处理
42
RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
622
【AI 技术分享】大模型与数据检索的探索实践
174
ModelScope X 昇腾910快速上手
536
基于LangChain-Chatchat实现的本地知识库的问答应用-快速上手（检索增强生成(RAG)大模型）
870
RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术
626
展开全部
