开发者社区 > ModelScope模型即服务 > 正文

下载模型时报错:RuntimeError: Failed to import modelscope.

image.png
image.png

下载模型时报错:RuntimeError: Failed to import modelscope.models.nlp.llama2 because of the following error (look up to see its traceback):
cannot import name 'LlamaTokenizer' from 'transformers.models.llama' 我用的是nlp_seqgpt-560m模型,但是加载时报错,请问是什么问题?

展开
收起
游客5rae3mxfygsw4 2023-12-14 17:39:35 1429 0
2 条回答
写回答
取消 提交回答
  • 看起来报错是因为无法导入LlamaTokenizer。这可能是因为您使用的transformers库版本不支持该模型,或者存在其他依赖问题。建议检查一下transformers库的版本,并确保安装了所有必要的依赖项。如果问题仍然存在,尝试更新或降级transformers库,或者查阅相关项目的GitHub页面以获取帮助和解决方案。

    2023-12-15 15:50:44
    赞同 3 展开评论 打赏
  • 尝试将modelscope/models/nlp/llama/init.py中import修改为

    from transformers import LlamaTokenizer
    from transformers.models.llama import (LlamaConfig, LlamaTokenizerFast)
    后问题解决

    2023-12-14 19:52:45
    赞同 4 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载