一文读懂deepSpeed：深度学习训练的并行化
DeepSpeed 是由微软开发的开源深度学习优化库，旨在提高大规模模型训练的效率和可扩展性。通过创新的并行化策略、内存优化技术（如 ZeRO）及混合精度训练，DeepSpeed 显著提升了训练速度并降低了资源需求。它支持多种并行方法，包括数据并行、模型并行和流水线并行，同时与 PyTorch 等主流框架无缝集成，提供了易用的 API 和丰富的文档支持。DeepSpeed 不仅大幅减少了内存占用，还通过自动混合精度训练提高了计算效率，降低了能耗。其开源特性促进了 AI 行业的整体进步，使得更多研究者和开发者能够利用先进优化技术，推动了 AI 在各个领域的广泛应用。
阿里达摩院 MindOpt 介绍和使用
MindOpt 是阿里巴巴达摩院决策智能实验室研发的决策优化软件。团队组建于2019年，聚焦于研发尖端运筹优化和机器学习技术，构建智能决策系统，更快更好地向各行各业提供数学建模与求解能力，帮助业务更快更好地做出决策，以期降低成本、提升效率、增大收益 。当前 MindOpt 围绕智能决策优化所需的建模和求解能力，突破国外垄断，自研了 MindOpt Solver 优化求解器、MindOpt APL 建模语言、MindOpt Tuner 调参器；并创新地提出“强化+优化”双决策引擎，打造了MindOpt Studio 优化平台。并结合前沿先进的预训练大模型技术打造MindOpt Copilot。