vLLM 核心技术 PagedAttention 原理详解
本文系统梳理了 vLLM 核心技术 PagedAttention 的设计理念与实现机制。文章从 KV Cache 在推理中的关键作用与内存管理挑战切入，介绍了 vLLM 在请求调度、分布式执行及 GPU kernel 优化等方面的核心改进。PagedAttention 通过分页机制与动态映射，有效提升了显存利用率，使 vLLM 在保持低延迟的同时显著提升了吞吐能力。
图解一致性哈希算法，看这一篇就够了！
近段时间一直在总结分布式系统架构常见的算法。前面我们介绍过布隆过滤器算法。接下来介绍一个非常重要、也非常实用的算法：一致性哈希算法。通过介绍一致性哈希算法的原理并给出了一种实现和实际运用的案例，带大家真正理解一致性哈希算法。
CentOS7换yum源
CentOS是Linux系统里最常用的一种，CentOS7的yum源默认是国外的源，相较于国内源，网络连接不够稳定，下载速度较慢，因此我们常常把下载好的CentOS7换源为国内的yum源，本篇文章将介绍如何更换CentOS7的yum源为国内yum源，以阿里云的源为例。
