modelscope我想预加载一个模型预加载的模型就不起作用了在子进程为什么还是会去加载一次模型？
请教个问题 modelscope我想预加载一个模型，然后用了subprocess去调用脚本启动项目，他开起了一个子进程，预加载的模型就不起作用了，在子进程还是会去加载一次模型，这个有什么好的解决方案或者建议吗？大概就是我在启动服务端前面预先加载了模型，然后调用项目的时候还会去加载一次模型，用的subprocess.run去启动的项目。
展开
收起
1
条回答
写回答
写回答
-
一般将pipeline初始化和推理分开，初始化一次，后面一直用就可以了。您看可不可以参考这种方式，flask搭建模型服务文档，https://modelscope.cn/docs/%E4%BD%BF%E7%94%A8Flask%E6%90%AD%E5%BB%BA%E6%A8%A1%E5%9E%8B%E6%9C%8D%E5%8A%A1 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
2023-12-18 22:00:12赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
10087
com/action/joingroup?code=v1是什么意思
7525
服务器上onnxruntime-gpu 调用结束，如何释放显存
5421
我希望通过damo-YOLO训练1500*1500的图片
8865
请问transformer里的库导入有问题是什么原因呢？目前的版本是4.19.2
1537
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3629
ModelScope在使用pipeline的时候分配gpu设备，没有用呀？
744
我想使用 Modelscope 自己下载下来的本地模型，不知道怎么操作？
795
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2371
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
2083
展开全部
OOTDiffusion：开源AI虚拟试衣工具，智能适配性别和体型自动调整衣物
61
See3D：智源研究院开源的无标注视频学习 3D 生成模型
44
Director：构建视频智能体的 AI 框架，用自然语言执行搜索、编辑、合成和生成等复杂视频任务
41
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
101
SNOOPI：创新 AI 文本到图像生成框架，提升单步扩散模型的效率和性能
35
Sketch2Lineart：AI绘画工具，自动将手绘草图转换成清晰的线条画
115
Aurora：xAI 为 Grok AI 推出新的图像生成模型，xAI Premium 用户可无限制访问
33
HunyuanVideo：腾讯推出的开源视频生成模型，参数高达130亿
89
VISION XL：支持四倍超分辨率的 AI 视频修复处理工具，提供去除模糊、修复缺失等功能
28
DrivingDojo：中科院联合美团推出的自动驾驶数据集，包含视频片段、驾驶操作和驾驶知识
24
展开全部
