浅析GPU通信技术（下）-GPUDirect RDMA
目录
浅析GPU通信技术（上）-GPUDirect P2P
浅析GPU通信技术（中）-NVLink
浅析GPU通信技术（下）-GPUDirect RDMA
1. 背景
前两篇文章我们介绍的GPUDirect P2P和NVLink技术可以大大提升GPU服务器单机的GPU通信性...
浅析GPU通信技术（上）-GPUDirect P2P
1. 背景
GPU在高性能计算和深度学习加速中扮演着非常重要的角色， GPU的强大的并行计算能力，大大提升了运算性能。随着运算数据量的不断攀升，GPU间需要大量的交换数据，GPU通信性能成为了非常重要的指标。
浅析GPU通信技术（中）-NVLink
1. 背景
上一篇文章《浅析GPU通信技术（上）-GPUDirect P2P》中我们提到通过GPUDirect P2P技术可以大大提升GPU服务器单机的GPU通信性能，但是受限于PCI Expresss总线协议以及拓扑结构的一些限制，无法做到更高的带宽，为了解决这个问题，NVIDIA提出了NVLink总线协议。
在Kubernetes上使用RDMA
### RDMA
RDMA(全称RemoteDirect Memory Access) 它为了解决网络传输中服务器端数据处理的延迟而产生。
它的原理是将待传输的数据从一台计算机的内存，直接传输到另一台计算机的内存，整个传输过程无需操作系统和协议栈的介入。
构建Tensorflow RDMA的Docker镜像
RDMA是一个远程通讯技术，它通过Kernel bypass等方式降低数据传输中的延迟和CPU消耗。
在分布式训练中，由于多个Worker之间或者Worker和Paramater Server 之间需要大量传输模型变量。当GPU到达一定数量后，受制于网络带宽以及TCP协议的延迟，通讯往往会成为计算性能的瓶颈，而在分布式训练中使用RDMA技术能够非常明显地提高训练速度。
#### Tenso
LC3视角：高性能网络技术下的阿里云盘古分布式存储技术变革
LC3视角：高性能网络技术下的阿里云盘古分布式存储技术变革
近些年，随着NVME闪存等存储技术的发展，单存储设备IO带宽已达到GB/S，延迟降低至微秒数量级，而下一代内存级非易事存储介质如Intel 3D XPoint将进一步提升存储介质性能。从整体上看，数据中心已经由传统的机械硬盘毫秒时代过渡到存储新介质的微秒时代。在性能大幅提升的同时，节点存储容量也急剧增加，达到几十TB量级。节点存储性能和
