ModelScope魔搭25年1月版本发布月报

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型训练 PAI-DLC,100CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
简介: 随着2025年帷幕的缓缓拉开,ModelScope团队怀着新年新气象的美好期许,为广大开发者带来了1月份的重磅更新。

本月上新

随着2025年帷幕的缓缓拉开,ModelScope团队怀着新年新气象的美好期许,为广大开发者带来了1月份的重磅更新。

本次发布不仅集成了众多开发者心心念念的一系列新功能,如通过SDK和ModelScope命令行来实现原生的、不依赖于Git协议的模型与数据集的流式上传。还针对Notebook进行了一系列功能扩展与用户体验的快速迭代,比如引入了VS-Code IDE功能等。

此外,ModelScope社区上的模型、数据集、创空间与合集等诸多元素,也正通过平台的血缘体系建设, 产生更紧密的关联和化学反应。AIGC专区依然处于一个迅速迭代的周期中,本期也引入了创意广场等诸多新元素和生图能力+训练性能的优化。在开源工具链部分,除了持续推进ModelScope被各个开源生态的集成,Swift框架也完成了3.0大版本的正式发布,在引入诸多新特性的同时,也为更全面支持大模型的训练和集成奠定了基础。

与此同时,我们正紧锣密鼓地进行更多功能的开发与测试。在新的一年里,我们将继续加快技术迭代的步伐,与广大开发者共建一个更完整易用的社区模型开发生态。

· 站点更新

1. Notebook添加VS-Code Web-IDE的支持,提供在Notebook环境里,原生的IDE代码开发体验。

2. Notebook添加包括持久化存储额度,CPU/内存等资源使用的实时监控等能力,使得开发者能够更准确、直观地掌握Notebook开发环境的状态,从而提升开发效率和资源利用的合理性。

3. 支持包括合集在内的多种元素之间的自动关联:方便开发者进行更有效的社区内容探索。

4. ModelScope API-Inference功能:增强了API-Inference支持的模型类型,涵盖了视觉(Vision)和 AIGC领域的模型。例如通过API-Inference,可以直接调用平台上大量的文生图模型:

具体可参考文档:https://www.modelscope.cn/docs/model-service/API-Inference/intro

5. AIGC专区:

  • AIGC模型在各个列表的模型卡片中,添加了封面缩略图:

  • 增加图库、创意广场以及图片返图功能模块,支持专区生成的图片能更方便地在社区内进行分享:

  • 在专业生图功能中优化了多LoRA叠合生成逻辑与交互:

  • 在模型训练功能中,我们新增了对 Flux 框架的 Joy Caption 打标算法的支持,并引入了一键重启功能,允许用户在训练任务因超时而终止后能够轻松继续训练。

6. SwingDeploy平台免费部署功能上线:模型部署服务推出了免费部署额度,用户仅需关联阿里云账号即可在线体验!当前,我们为每个社区用户在CPU环境下提供10个任务的免费部署额度。快速部署(SwingDeploy)功能集成了主流的推理框架并且适配OpenAI API兼容的推理能力,为社区用户提供更加灵活和高效的部署选项。

7. 模型库页面分类添加MLX分类。同时MLX社区完成了与ModelScope生态的适配,通过“MLXLM_USE_MODELSCOPE”环境变量,即可实现从ModelScope社区加载MLX模型。

8.模型卡片对于ModelScope生态的自动适配功能beta上线。更好支持平台上代码的开箱可用性。

9. 创空间设置添加了“深度重启” 选项。

· 开源SDK与工具链更新

1. SDK 1.22(最新版本为1.22.2)发布,提供如下新功能:

  • 通过ModelScope命令行或SDK接口,直接基于Http协议上传模型/数据集,避免本地操作git lfs数据来进行上传可能引入的overhead。在上传之前,请确保模型/数据集已经提前创建好。
  • 通过ModelScope命令行上传模型:
modelscope upload org/model-name  /path/to/local/dir --token MODELSCOP-TOKEN
  • 通过SDK上传模型:
from modelscope.hub.api import HubApi
api = HubApi()
api.login('MODELSCOPE-TOKEN')
api.upload_folder(
    repo_id='org/model-name',
    folder_path='/path/to/local/dir ',
    commit_message='upload model folder to repo'
)

具体使用方式可参考文档:https://www.modelscope.cn/docs/models/upload

  • 模型下载的hash校验逻辑改为流式hash计算,避免大模型文件下载后的hash校验成为卡点。
  • 支持与SWIFT 3.0大版本的对接,并支持最新版本的datasets
  • 通过在snapshot_download里添加repo_id与repo_type来统一模型与数据集的下载,同时我们也统一了自定义缓存路径是模型和数据集的存储,并且对下载进度展示做了优化。

2.SWIFT 3.0大版本正式发布,并已经迭代到3.0.2。3.0实现了所有组件的完整重构,为SWIFT框架提供了更好的扩展性新模型结构支持的便利性。支持的新特性包括:

  • 通过plugin机制来定制模型训练过程,添加了多模态模型PreTrain的支持。
  • 数据集模型的整体重构带来了加载速度2-20倍的提升,并支持了streaming模式。
  • 用model id统一了模型,移除model_type机制并大大简化了新模型使用方式。
  • template整体切换为messages格式的入参,并使用jinja模型推理。
  • 添加了大模型的RM和PPO训练,推理,部署和BNB/GPTQ量化,并提供了对于SequenceClassification模型的支持。

完整的SWIFT 3.0大版本Release Note可参见:https://swift.readthedocs.io/zh-cn/latest/Instruction/ReleaseNote3.0.html

3.EvalScope发布了0.9.0版本,支持自定义schema进行数据混合评测,使得开发者能够用更少量的多数据集混合获取的数据,来进行更全面的模型能力评估。在添加了PMMEval等benchmark以外,支持自行添加benchmark功能,集合社区力量来覆盖更多的评测benchmark支持。在评测接口上,统一了使用本地和远端模型服务通过API进行评测的接口,并添加了TTFT,TPOT等多种性能指标。

4.DiffSynth-Studio 完成了HunyuanVideo的接入,并通过包括模型加载方式在内的多方优化,支持了显存的极致优化。在训练方面,提供了resume from ckpt的能力。

相关文章
|
14天前
|
供应链 监控 安全
对话|企业如何构建更完善的容器供应链安全防护体系
阿里云与企业共筑容器供应链安全
171330 12
|
16天前
|
供应链 监控 安全
对话|企业如何构建更完善的容器供应链安全防护体系
随着云计算和DevOps的兴起,容器技术和自动化在软件开发中扮演着愈发重要的角色,但也带来了新的安全挑战。阿里云针对这些挑战,组织了一场关于云上安全的深度访谈,邀请了内部专家穆寰、匡大虎和黄竹刚,深入探讨了容器安全与软件供应链安全的关系,分析了当前的安全隐患及应对策略,并介绍了阿里云提供的安全解决方案,包括容器镜像服务ACR、容器服务ACK、网格服务ASM等,旨在帮助企业构建涵盖整个软件开发生命周期的安全防护体系。通过加强基础设施安全性、技术创新以及倡导协同安全理念,阿里云致力于与客户共同建设更加安全可靠的软件供应链环境。
150295 32
|
24天前
|
弹性计算 人工智能 安全
对话 | ECS如何构筑企业上云的第一道安全防线
随着中小企业加速上云,数据泄露、网络攻击等安全威胁日益严重。阿里云推出深度访谈栏目,汇聚产品技术专家,探讨云上安全问题及应对策略。首期节目聚焦ECS安全性,提出三道防线:数据安全、网络安全和身份认证与权限管理,确保用户在云端的数据主权和业务稳定。此外,阿里云还推出了“ECS 99套餐”,以高性价比提供全面的安全保障,帮助中小企业安全上云。
201961 14
对话 | ECS如何构筑企业上云的第一道安全防线
|
2天前
|
机器学习/深度学习 自然语言处理 PyTorch
深入剖析Transformer架构中的多头注意力机制
多头注意力机制(Multi-Head Attention)是Transformer模型中的核心组件,通过并行运行多个独立的注意力机制,捕捉输入序列中不同子空间的语义关联。每个“头”独立处理Query、Key和Value矩阵,经过缩放点积注意力运算后,所有头的输出被拼接并通过线性层融合,最终生成更全面的表示。多头注意力不仅增强了模型对复杂依赖关系的理解,还在自然语言处理任务如机器翻译和阅读理解中表现出色。通过多头自注意力机制,模型在同一序列内部进行多角度的注意力计算,进一步提升了表达能力和泛化性能。
|
6天前
|
存储 人工智能 安全
对话|无影如何助力企业构建办公安全防护体系
阿里云无影助力企业构建办公安全防护体系
1251 8
|
7天前
|
人工智能 自然语言处理 程序员
通义灵码2.0全新升级,AI程序员全面开放使用
通义灵码2.0来了,成为全球首个同时上线JetBrains和VSCode的AI 程序员产品!立即下载更新最新插件使用。
1291 24
|
9天前
|
机器学习/深度学习 自然语言处理 搜索推荐
自注意力机制全解析:从原理到计算细节,一文尽览!
自注意力机制(Self-Attention)最早可追溯至20世纪70年代的神经网络研究,但直到2017年Google Brain团队提出Transformer架构后才广泛应用于深度学习。它通过计算序列内部元素间的相关性,捕捉复杂依赖关系,并支持并行化训练,显著提升了处理长文本和序列数据的能力。相比传统的RNN、LSTM和GRU,自注意力机制在自然语言处理(NLP)、计算机视觉、语音识别及推荐系统等领域展现出卓越性能。其核心步骤包括生成查询(Q)、键(K)和值(V)向量,计算缩放点积注意力得分,应用Softmax归一化,以及加权求和生成输出。自注意力机制提高了模型的表达能力,带来了更精准的服务。
|
7天前
|
消息中间件 人工智能 运维
1月更文特别场——寻找用云高手,分享云&AI实践
我们寻找你,用云高手,欢迎分享你的真知灼见!
564 22
1月更文特别场——寻找用云高手,分享云&AI实践
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
|
12天前
|
人工智能 自然语言处理 API
阿里云百炼xWaytoAGI共学课DAY1 - 必须了解的企业级AI应用开发知识点
本课程旨在介绍阿里云百炼大模型平台的核心功能和应用场景,帮助开发者和技术小白快速上手,体验AI的强大能力,并探索企业级AI应用开发的可能性。

热门文章

最新文章