揭秘！CIPU最新秘密武器–弹性RDMA的技术解析与实践
弹性RDMA（Elastic Remote Direct Memory Access，简称eRDMA），是阿里云自研的云上弹性RDMA网络，底层链路复用VPC网络，采用全栈自研的拥塞控制CC（Congestion Control ）算法，兼具传统RDMA网络高吞吐、低延迟特性，同时支持秒级的大规模RDMA组网。基于弹性RDMA，开发者可以将HPC应用软件部署在云上，获取成本更低、弹性更好的高性能应用集群；也可以将VPC网络替换成弹性RDMA网络，加速应用性能。
大模型训练推理优化(5)： FlexLink —— NVLink 带宽无损提升27%
本期我们将介绍蚂蚁集团ASystem团队在大模型通信优化上的新工作FlexLink，旨在通过动态聚合多路通信（NVLink，PCIe，RDMA），在H800等典型硬件上将典型通信算子如（AllReduce, All Gather）吞吐提升最高达27%，尤其适合大模型长序列推理（Prefill阶段），及训练等通信密集的带宽bound场景。方案对精度无影响。
基于阿里云eRDMA的GPU实例大幅提升多机训练性能
2023年3月23日14：00（中国时间），NVIDIA GTC开发者大会，阿里云开发者社区观看入口正式开放，阿里云高级技术专家李伟男；阿里云弹性计算产品专家宋迪共同带来了题为《基于阿里云eRDMA的GPU实例大幅提升多机训练性能》的分享
