开发者社区 > ModelScope模型即服务 > 正文

ModelScope中,怎么使用webui和api调用的gpu?

ModelScope中,怎么使用webui和api调用的gpu?

展开
收起
小小爱吃香菜 2024-07-09 08:47:27 50 0
1 条回答
写回答
取消 提交回答
  • ModelScope主要提供模型管理服务,不直接支持GPU资源的WebUI或API调用。在阿里云GPU资源通常通过GPU云服务器控制台或API来管理。若要使用GPU运行模型,您需要:

    创建GPU云服务器:
    通过阿里云控制台创建GPU实例,选择合适的GPU类型和配置。
    安装必要的环境和依赖,例如深度学习框架。
    使用API:
    使用阿里云的API Gateway和SDK来创建、启动、停止或销毁GPU实例。
    可参考官方文档

    2024-07-09 12:23:40
    赞同 4 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载