AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 文章 正文

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

2023-12-18 1269
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。

当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpu
self.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？

对于我的需求我该如何修改我的代码？

文章标签：
GPU云服务器
视觉智能开放平台
异构计算
并行计算
达摩院
关键词：
modelscope模型
GPU云服务器模型
GPU云服务器运行
模型GPU云服务器
模型GPU云服务器运行
相关实践学习
在云上部署ChatGLM2-6B大模型（GPU版）
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验，可以学习如何配置AIGC开发环境，如何部署ChatGLM2-6B大模型。
游客jylnbcvdoiqxg
目录
相关文章
阿里云基础设施.
|
存储 测试技术 对象存储
容器计算服务ACS单张GPU即可快速搭建QwQ-32B推理模型
阿里云最新发布的QwQ-32B模型拥有320亿参数，通过强化学习大幅度提升了模型推理能力，其性能与DeepSeek-R1 671B媲美，本文介绍如何使用ACS算力部署生产可用的QwQ-32B模型推理服务。
阿里云基础设施.
572 66
蚝油菜花
|
人工智能 自然语言处理 API
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
Proxy Lite 是一款开源的轻量级视觉语言模型，支持自动化网页任务，能够像人类一样操作浏览器，完成网页交互、数据抓取、表单填写等重复性工作，显著降低自动化成本。
蚝油菜花
939 11
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
小华同学ai
|
12月前
|
人工智能 自然语言处理 API
8.6K star！完全免费+本地运行+无需GPU，这款AI搜索聚合神器绝了！
FreeAskInternet是一款革命性的开源项目，它完美结合了多引擎搜索和智能语言模型，让你在不联网、不花钱、不暴露隐私的情况下，获得媲美ChatGPT的智能问答体验。这个项目最近在GitHub上狂揽8600+星，被开发者称为"本地版Perplexity"。
小华同学ai
571 2
云流雨洄
|
存储 人工智能 固态存储
轻量级AI革命：无需GPU就能运算的DeepSeek-R1-1.5B模型及其低配部署指南
随着AI技术发展，大语言模型成为产业智能化的关键工具。DeepSeek系列模型以其创新架构和高效性能备受关注，其中R1-1.5B作为参数量最小的版本，适合资源受限场景。其部署仅需4核CPU、8GB RAM及15GB SSD，适用于移动对话、智能助手等任务。相比参数更大的R1-35B与R1-67B+，R1-1.5B成本低、效率高，支持数学计算、代码生成等多领域应用，是个人开发者和初创企业的理想选择。未来，DeepSeek有望推出更多小型化模型，拓展低资源设备的AI生态。
云流雨洄
2763 8
技术小达人
|
存储 文件存储 对象存储
AI 场景下，函数计算 GPU 实例模型存储最佳实践
AI 场景下，函数计算 GPU 实例模型存储最佳实践
技术小达人
319 0
sunrr
|
自然语言处理
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
sunrr
575 1
vohelon
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
vohelon
568 2
ModelScope运营小助手
|
人工智能 API 决策智能
Modelscope结合α-UMi：基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent，由于模型容量和预训练能力获取的限制，无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
ModelScope运营小助手
1372 3
真的很搞笑
|
文字识别 并行计算 语音技术
ModelScope问题之下载模型文件报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题；本合集将收集ModelScope模型报错的常见情况和排查方法，帮助用户快速定位问题并采取有效措施。
真的很搞笑
4082 3
python兴趣圈
|
人工智能 达摩院 自然语言处理
超好用的开源模型平台，ModelScope阿里达摩院
超好用的开源模型平台，ModelScope阿里达摩院
python兴趣圈
1558 1
ModelScope模型即服务

计算机视觉

热门文章

最新文章

  • 1
    Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • 2
    video-subtitle-remover（VSR）--开源AI去字幕方案深度解析
  • 3
    RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • 4
    video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
  • 5
    LTX Video：Lightricks推出的开源AI视频生成模型
  • 6
    Manga Image Translator：开源的漫画文字翻译工具，支持多语言翻译并嵌入原图，保持漫画的原始风格和布局
  • 7
    LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
  • 8
    DeepMesh：3D建模革命！清华团队让AI自动优化拓扑，1秒生成工业级网格
  • 9
    HunyuanVideo：腾讯推出的开源视频生成模型，参数高达130亿
  • 10
    Hi3DGen：2D照片秒变高精度模型，毛孔级细节完爆Blender！港中文×字节×清华联手打造3D生成黑科技
  • 1
    红外小目标检测新突破！异常感知检测头AA-YOLO：节俭又鲁棒，小样本也能精准识别
    295
  • 2
    基于YOLO11的交通违规检测系统（Python源码+数据集+Pyside6界面）
    349
  • 3
    video-subtitle-remover（VSR）--开源AI去字幕方案深度解析
    904
  • 4
    NeurlPS 2025！多伦多大学TIRE助力3D/4D 生成精准保留主体身份
    262
  • 5
    【Github热门项目】DeepSeek-OCR项目上线即突破7k+星！突破10倍无损压缩，重新定义文本-视觉信息处理
    524
  • 6
    腾讯混元最新开源：一张图，秒变游戏大片
    575
  • 7
    漫画师福音！开源AI神器让线稿着色快如闪电！MagicColor：港科大开源多实例线稿着色框架，一键生成动画级彩图
    1011
  • 8
    ACTalker：港科大联合腾讯清华推出，多模态驱动的说话人视频生成神器
    461
  • 9
    这个模型让AI角色会说话还会演！MoCha：Meta联手滑铁卢大学打造对话角色视频生成黑科技
    786
  • 10
    WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
    731

    • 相关课程

    更多
  • 云原生AI套件：一键训练大模型及部署GPU共享推理服务
  • 个性化语音合成模型微调
  • ModelScope社区Library技术架构介绍

    • 相关电子书

    更多
  • DeepStream: GPU加速海量视频数据智能处理
  • 阿里巴巴高性能GPU架构与应用
  • GPU在超大规模深度学习中的发展和应用

    • 相关实验场景

    更多
  • 在云上部署ChatGLM2-6B大模型（GPU版）
  • 通过GPU云服务器训练GPT-2
    • 下一篇
    PHP：将本地文件上传到阿里云OSS存储