飞桨x昇腾生态适配方案：02_常用环境变量
本节介绍训练前建议设置的常用环境变量，涵盖NPU私有格式、在线编译、性能优化参数（如`aclnn_scale`和`aclnn_split`）、算子黑名单配置、NPU卡号指定、Paddle内存分配策略及日志设置等内容。通过合理配置这些变量，可有效提升训练性能并解决潜在问题。例如，关闭`FLAGS_npu_storage_format`以禁用NPU私有格式，或调整`ASCEND_MAX_OP_CACHE_SIZE`优化Kernel缓存大小。同时，CANN和Paddle的日志环境变量也提供了调试支持。
飞桨x昇腾生态适配方案：00_整体方案介绍
本文详细介绍PaddlePaddle与NPU的适配工作，涵盖训练与推理支持、性能优化及离线推理方案。PaddleCustomDevice作为适配层，支持主流模型（详见飞桨-昇腾模型列表），多数性能媲美V100，部分调优模型接近0.8*A800。硬件适配主要针对A2芯片，A1兼容但310系列建议离线推理。提供常用模型仓链接及整体方案导览，包括环境准备、算子适配、性能调优和Paddle转ONNX/OM等内容。
《从“高温警报”到“持续冷静”：相变浸没液冷的散热逆袭之路》
相变浸没液冷技术为数据中心和人工智能计算的散热难题提供了高效解决方案。通过将设备浸没于特殊冷却液中，利用相变原理快速带走热量，实现全方位冷却。相比传统风冷和液冷，该技术显著降低设备温度、能耗和故障率，提升运行效率与空间利用率。在AI计算中，它确保芯片稳定工作，加速模型训练。尽管存在成本和技术普及等挑战，但随着技术进步，其应用前景广阔，有望推动数据中心与AI计算的进一步发展。
《从“平”到“立”，3D集成技术如何重塑AI芯片能效版图》
3D集成技术正革新人工智能芯片的性能与能效。传统2D芯片设计受限于平面空间，信号传输延迟、能耗高；而3D集成通过垂直堆叠芯片层，大幅缩短信号路径，提升数据处理速度和计算密度，同时降低能耗并优化电源管理。它在数据中心和边缘设备中展现出巨大潜力，助力图像识别、语音处理等任务高效完成。尽管面临散热与成本挑战，但随着技术进步，3D集成有望成为AI芯片主流，推动人工智能更广泛的应用与创新。
DeepSeek模型MOE结构代码详解
其实在DeepSeek-R1爆火之前，DeepSeek V2在我们行业就已经妇孺皆知了，它独特的MOE结构值得研究一下。这篇文章是基于 @ZOMI酱 的2个视频写的，这2个视频讲的很好，建议大家都学习一下：《MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！》和《使用昇腾NPU手撕MoE单机版代码！没想到如此简单！》。
服务化参数调优实战
本文介绍了服务化性能调优的全流程，以Llama3-8B模型为例。首先需完成MindIE环境安装、下载模型权重与测试数据集。接着通过计算npuMemSize和maxBatchSize，maxPrefillBatchSize（272）与maxPrefillTokens，并更新配置进行性能测试。结果显示，参数调优后吞吐量提升18%。此方法为大模型性能优化提供了实用指导。
NPU上如何使能pytorch图模式
本文介绍了PyTorch的`torch.compile`技术和TorchAir的相关内容。`torch.compile`通过将动态图转换为静态图并结合JIT编译，提升模型推理和训练效率。示例代码展示了如何使用`torch.compile`优化模型。TorchAir是昇腾为PyTorch提供的图模式扩展库，支持在昇腾设备上进行高效训练和推理。它基于Dynamo特性，将计算图转换为Ascend IR，并通过图引擎优化执行。文章还提供了TorchAir的使用示例及功能配置方法。
