开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope搭建后相当于启动http api服务吗,客户端就发送http调用模型提供api?

ModelScope搭建后相当于启动http api服务吗,客户端就发送http调用模型提供api?

展开
收起
青城山下庄文杰 2023-07-29 13:08:33 144 0
3 条回答
写回答
取消 提交回答
  • 上述您贴的文档最主要的目的是“推理”,也就是说,帮助您在对应的环境中运行一个python脚本并给出对应的结果,而浏览器交互需要额外的工程支持,比如用flask拉起一个http服务,这部分在刚刚的文档中是没有提及的-此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-07-31 20:24:02
    赞同 展开评论 打赏
  • 是的,当你搭建了ModelScope后,它相当于启动了一个HTTP API服务,客户端可以通过发送HTTP请求来调用模型提供的API。

    ModelScope提供了一个统一的接口来管理和部署不同类型的机器学习模型,并通过HTTP协议与客户端进行通信。通过ModelScope提供的API,客户端可以发送请求并获取模型的预测结果或执行其他相关操作。

    在使用ModelScope时,你需要配置API的地址、端口号和特定路由规则,以便客户端能够正确地访问和调用模型服务。具体的配置方法和API调用方式可以在ModelScope的文档中找到。

    2023-07-31 18:52:47
    赞同 展开评论 打赏
  • 北京阿里云ACE会长

    是的,ModelScope 可以被看作一个基于 HTTP API 的模型服务,客户端可以通过发送 HTTP 请求来调用已部署的模型。

    在 ModelScope 中,您可以使用 modelserv 命令启动一个 HTTP 服务器,该服务器将监听指定的端口,并等待客户端发送 HTTP 请求。一旦收到请求,服务器将加载已部署的模型,并对请求数据进行处理和推理,最终返回结果给客户端。

    例如,如果您已经部署了一个名为 my_model 的模型,并将其绑定到端口 8080 上,您可以使用以下命令启动 HTTP 服务器:

    Copy
    modelserv start my_model --port 8080
    一旦服务器启动,客户端就可以发送 HTTP 请求来调用模型。例如,如果您希望对一张图像进行分类,可以发送以下 POST 请求:

    Copy
    POST http://localhost:8080/predictions/my_model
    Content-Type: image/jpeg


    其中,http://localhost:8080/predictions/my_model 是模型的 HTTP API 地址,Content-Type: image/jpeg 表示请求数据的 MIME 类型为 JPEG 图像, 是实际的图像数据。

    服务器将收到请求后,加载模型并对图像数据进行分类,最终返回结果给客户端。客户端可以根据返回结果进行后续处理和分析。

    2023-07-30 12:59:18
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载