本月上新
随着2025年帷幕的缓缓拉开,ModelScope团队怀着新年新气象的美好期许,为广大开发者带来了1月份的重磅更新。
本次发布不仅集成了众多开发者心心念念的一系列新功能,如通过SDK和ModelScope命令行来实现原生的、不依赖于Git协议的模型与数据集的流式上传。还针对Notebook进行了一系列功能扩展与用户体验的快速迭代,比如引入了VS-Code IDE功能等。
此外,ModelScope社区上的模型、数据集、创空间与合集等诸多元素,也正通过平台的血缘体系建设, 产生更紧密的关联和化学反应。AIGC专区依然处于一个迅速迭代的周期中,本期也引入了创意广场等诸多新元素和生图能力+训练性能的优化。在开源工具链部分,除了持续推进ModelScope被各个开源生态的集成,Swift框架也完成了3.0大版本的正式发布,在引入诸多新特性的同时,也为更全面支持大模型的训练和集成奠定了基础。
与此同时,我们正紧锣密鼓地进行更多功能的开发与测试。在新的一年里,我们将继续加快技术迭代的步伐,与广大开发者共建一个更完整易用的社区模型开发生态。
· 站点更新
1. Notebook添加VS-Code Web-IDE的支持,提供在Notebook环境里,原生的IDE代码开发体验。
2. Notebook添加包括持久化存储额度,CPU/内存等资源使用的实时监控等能力,使得开发者能够更准确、直观地掌握Notebook开发环境的状态,从而提升开发效率和资源利用的合理性。
3. 支持包括合集在内的多种元素之间的自动关联:方便开发者进行更有效的社区内容探索。
4. ModelScope API-Inference功能:增强了API-Inference支持的模型类型,涵盖了视觉(Vision)和 AIGC领域的模型。例如通过API-Inference,可以直接调用平台上大量的文生图模型:
具体可参考文档:https://www.modelscope.cn/docs/model-service/API-Inference/intro
5. AIGC专区:
- AIGC模型在各个列表的模型卡片中,添加了封面缩略图:
- 增加图库、创意广场以及图片返图功能模块,支持专区生成的图片能更方便地在社区内进行分享:
- 在专业生图功能中优化了多LoRA叠合生成逻辑与交互:
- 在模型训练功能中,我们新增了对 Flux 框架的 Joy Caption 打标算法的支持,并引入了一键重启功能,允许用户在训练任务因超时而终止后能够轻松继续训练。
6. SwingDeploy平台免费部署功能上线:模型部署服务推出了免费部署额度,用户仅需关联阿里云账号即可在线体验!当前,我们为每个社区用户在CPU环境下提供10个任务的免费部署额度。快速部署(SwingDeploy)功能集成了主流的推理框架并且适配OpenAI API兼容的推理能力,为社区用户提供更加灵活和高效的部署选项。
7. 模型库页面分类添加MLX分类。同时MLX社区完成了与ModelScope生态的适配,通过“MLXLM_USE_MODELSCOPE”环境变量,即可实现从ModelScope社区加载MLX模型。
8.模型卡片对于ModelScope生态的自动适配功能beta上线。更好支持平台上代码的开箱可用性。
9. 创空间设置添加了“深度重启” 选项。
· 开源SDK与工具链更新
1. SDK 1.22(最新版本为1.22.2)发布,提供如下新功能:
- 通过ModelScope命令行或SDK接口,直接基于Http协议上传模型/数据集,避免本地操作git lfs数据来进行上传可能引入的overhead。在上传之前,请确保模型/数据集已经提前创建好。
- 通过ModelScope命令行上传模型:
modelscope upload org/model-name /path/to/local/dir --token MODELSCOP-TOKEN
- 通过SDK上传模型:
from modelscope.hub.api import HubApi api = HubApi() api.login('MODELSCOPE-TOKEN') api.upload_folder( repo_id='org/model-name', folder_path='/path/to/local/dir ', commit_message='upload model folder to repo' )
具体使用方式可参考文档:https://www.modelscope.cn/docs/models/upload
- 模型下载的hash校验逻辑改为流式hash计算,避免大模型文件下载后的hash校验成为卡点。
- 支持与SWIFT 3.0大版本的对接,并支持最新版本的datasets
- 通过在snapshot_download里添加repo_id与repo_type来统一模型与数据集的下载,同时我们也统一了自定义缓存路径是模型和数据集的存储,并且对下载进度展示做了优化。
2.SWIFT 3.0大版本正式发布,并已经迭代到3.0.2。3.0实现了所有组件的完整重构,为SWIFT框架提供了更好的扩展性新模型结构支持的便利性。支持的新特性包括:
- 通过plugin机制来定制模型训练过程,添加了多模态模型PreTrain的支持。
- 数据集模型的整体重构带来了加载速度2-20倍的提升,并支持了streaming模式。
- 用model id统一了模型,移除model_type机制并大大简化了新模型使用方式。
- template整体切换为messages格式的入参,并使用jinja模型推理。
- 添加了大模型的RM和PPO训练,推理,部署和BNB/GPTQ量化,并提供了对于SequenceClassification模型的支持。
完整的SWIFT 3.0大版本Release Note可参见:https://swift.readthedocs.io/zh-cn/latest/Instruction/ReleaseNote3.0.html
3.EvalScope发布了0.9.0版本,支持自定义schema进行数据混合评测,使得开发者能够用更少量的多数据集混合获取的数据,来进行更全面的模型能力评估。在添加了PMMEval等benchmark以外,支持自行添加benchmark功能,集合社区力量来覆盖更多的评测benchmark支持。在评测接口上,统一了使用本地和远端模型服务通过API进行评测的接口,并添加了TTFT,TPOT等多种性能指标。
4.DiffSynth-Studio 完成了HunyuanVideo的接入,并通过包括模型加载方式在内的多方优化,支持了显存的极致优化。在训练方面,提供了resume from ckpt的能力。