开发者社区 > ModelScope模型即服务 > 正文

swift 为啥ModelScope会启动多个进程 ,只使用webui启动了一次?

8364facdfd8402b8206e96c1a2c5d319.png
swift 只使用webui启动了一次,为啥在ModelScope中会启动多个进程?

展开
收起
小小爱吃香菜 2024-03-26 21:27:42 39 0
2 条回答
写回答
取消 提交回答
  • 阿里云大降价~

    在ModelScope中,Swift可能会启动多个进程,以提高模型的加载速度和内存使用效率。具体原因如下:

    • 提升效率:通过多进程,Swift可消费级显卡尤其重要。
    • 技术兼容性:Swift框架集成了多种开源tuners,并且与PEFT完全兼容。这种设计使得它能够无缝集成到ModelScope生态系统中,打通多个流程,包括数据集读取、模型训练等。为了确保这些组件能够高效协同工作,可能需要启动多个进程。
    • 应对复杂任务:对于某些复杂的任务,比如CR识别,可能需要采用多线程或多进程库来提高处理速度。虽然ModelScope的主要目的是提高模型加载速度和内存使用效率,但实际使用时,结合其他库进行多进程处理是常见需求。

    总的来说,Swift在ModelScope中启动多个进程主要是为了提高效率和优化资源利用,同时也是为了确保技术兼容性和应对复杂任务的需求。

    2024-03-27 08:50:04
    赞同 展开评论 打赏
  • 开始训练点了多次,可以在webui界面上杀死任务。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-03-26 21:48:22
    赞同 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
OpenStack Swift 海量小文件优化之路 立即下载
From Java/Android to Swift iOS 立即下载
Swift在Airbnb的应用实践 立即下载

相关实验场景

更多