开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

部署到EAS时遇到了ModelScope版本问题

目的: 想在EAS上部署ChatGLM-6B-Int4模型

操作: 部署EAS,通过ModelScope的Api进行模型服务创建,代码如下图 image.png 服务日志报错,提示ModelScope Library版本不对,如下图 image.png 我看了下默认的服务配置,镜像地址是registry-vpc.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:model_deploy-1.3.0,如下图 image.png 于是将镜像改成ModelScope教程中推荐的CPU环境镜像地址,如下图 image.png 然后部署,进行更新服务,但依然报错,如下图 image.png 我看报错里,貌似ModelScope版本还是1.3.0,没更换成1.5.0。有没有大佬指点一下,这种情况下应如何处理呀?

展开
收起
1580833473964002 2023-04-21 13:46:25 596 0
1 条回答
写回答
取消 提交回答
  • 好的,以下是使用 ModelScope 的 API 在 EAS 上部署 ChatGLM-6B-Int4 模型的步骤:

    首先,您需要创建一个 ModelScope 帐户并登录。
    然后,您需要创建一个 EAS 实例。
    创建 EAS 实例后,您需要创建一个模型服务。
    在创建模型服务时,您需要选择 ChatGLM-6B-Int4 模型。
    选择模型后,您需要配置模型服务的参数。
    配置模型服务参数后,您需要单击“创建”按钮。
    模型服务创建后,您将获得一个服务 ID。
    您需要使用服务 ID 来调用模型服务的 API。

    2024-02-28 17:33:50
    赞同 1 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载