昇腾集群PFC现象分析
负责集群运维的同学可能都遇到过PFC现象，那么PFC到底是啥？产生原因是什么？这篇文章提供了一些分析。
sam模型迁移昇腾训练loss不收敛问题的解决办法
在将SAM模型迁移到昇腾平台时，遇到了精度问题。具体表现为NPU训练的loss图从一开始就未收敛，而GPU则正常收敛。通过使用Ascend开源仓的msprobe工具进行精度对比，发现NPU丢失了image_embedding的梯度，原因在于torch_npu版本与PyTorch不匹配，导致`repeat_interleave_backward_tensor`函数调用失败。最终通过选择与PyTorch配套的torch_npu版本解决了问题，loss图恢复正常。
首个全球AI出口管制规则出台，中国AI路在何方？
在CES 2025上，英伟达宣布Blackwell芯片全面投产，GB200芯片为大语言模型推理带来30倍性能提升，成本和能耗降低25倍。然而，1月13日白宫公布的“临时最终规则”对AI芯片出口进行严格限制，引发市场悲观情绪。新规将全球分为三级，中国大陆被列为Tier 3，面临先进芯片进口禁令和模型权重管控，加剧了中国AI产业的挑战。尽管如此，华为云、科大讯飞等企业通过自主创新，如昇腾AI云服务，提供了稳定可靠的算力解决方案，展现了中国科技企业的韧性和创新精神，推动大模型生态的发展。
天天都在说的“算力”到底是个啥？一文全讲透！
算力是数字经济发展的重要支撑，尤其在AI和大数据应用中起着关键作用。阿里云致力于构建全球领先的算力基础设施，助力各行业数字化转型。吴泳铭和马云均强调了算力在未来科技竞争中的核心地位。2023年底，我国算力总规模达230EFLOPS，位居全球第二。算力分为通用、智能和超算算力，广泛应用于人工智能训练与推理等场景。中国正加速建设智算中心，推动算力产业链发展，并注重绿色低碳和智能运维，以应对日益增长的计算需求。
为什么感觉欧美AI比我们强？
本文介绍了电视机、电脑、手机、原子弹和飞机等重要发明的起源，其中大部分发明均源自美国。文中还探讨了中美在AI领域的竞争，指出美国在创新方面领先，而中国则在规模化生产和应用方面表现出色。尽管存在差距，但中国在算力、算法、数据和人才等方面持续加大投入，逐渐缩小与美国的差距。
基于Pytorch Gemotric在昇腾上实现GraphSage图神经网络
本文详细介绍了如何在昇腾平台上使用PyTorch实现GraphSage算法，在CiteSeer数据集上进行图神经网络的分类训练。内容涵盖GraphSage的创新点、算法原理、网络架构及实战代码分析，通过采样和聚合方法高效处理大规模图数据。实验结果显示，模型在CiteSeer数据集上的分类准确率达到66.5%。
【AI系统】完全分片数据并行 FSDP
本文深入探讨了AI框架中针对权重数据、优化器数据和梯度数据的分布式并行实现，特别是在PyTorch框架下的具体方案。文章首先回顾了通用数据并行和分布式数据并行的概念，重点讨论了同步与异步数据并行的差异。接着，文章详细介绍了如何在PyTorch中实现弹性数据并行，特别是完全分片数据并行（FSDP）的机制，包括其如何通过分片模型状态和剩余状态来减少内存消耗，提高训练效率。此外，文章还探讨了混合精度训练、损失缩放和内存消耗估算等关键技术，为理解和实施高效的分布式训练提供了全面的指导。
【AI系统】张量并行
在大模型训练中，单个设备难以满足需求，模型并行技术应运而生。其中，张量并行（Tensor Parallelism, TP）将模型内部的参数和计算任务拆分到不同设备上，特别适用于大规模模型。本文介绍了张量并行的基本概念、实现方法及其在矩阵乘法、Transformer、Embedding和Cross Entropy Loss等场景中的应用，以及通过PyTorch DeviceMesh实现TP的具体步骤。
【AI系统】数据并行
数据并行是一种在分布式AI系统中广泛应用的技术，通过将数据集划分成多个子集并在不同计算节点上并行处理，以提高计算效率和速度。在大规模机器学习和深度学习训练中，数据并行可以显著加快模型训练速度，减少训练时间，提升模型性能。每个计算节点接收完整的模型副本，但处理不同的数据子集，从而分摊计算任务，提高处理速度和效率。数据并行按同步方式可分为同步数据并行和异步数据并行，按实现方式包括数据并行、分布式数据并行、完全分片的数据并行等。其中，分布式数据并行（DDP）是当前应用最广泛的并行算法之一，通过高效的梯度聚合和参数同步机制，确保模型一致性，适用于大型NPU集群和AI系统。