带你读《基于CUDA的GPU并行程序开发指南》之一：CPU并行编程概述
本书旨在帮助读者了解与基于CUDA的并行编程技术有关的基本概念，并掌握实用c语言进行GPU高性能编程的相关技巧。本书第一部分通过CPU多线程编程解释了并行计算，使得没有太多并行计算基础的读者也能毫无阻碍地进入CUDA天地；第二部分重点介绍了基于CUDA的GPU大规模并行程序的开发与实现，并通过大量的性能分析帮助读者理解如何开发一个好的GPU并行程序以及GPU架构对程序性能的影响；本书的第三部分介绍了一些常用的CUDA库。
推荐场景GPU优化的探索与实践：CUDA Graph与多流并行的比较与分析
RTP 系统(即 Rank Service)，是一个面向搜索和推荐的 ranking 需求，支持多种模型的在线 inference 服务，是阿里智能引擎团队沉淀多年的技术产品。今年，团队在推荐场景的GPU性能优化上又做了新尝试——在RTP上集成了Multi Stream，改变了TensorFlow的单流机制，让多流的执行并行，作为增加GPU并行度的另一种选择。本文详细介绍与比较了CUDA Graph与多流并行这两个方案，以及团队的实践成果与心得。
高效使用 PyODPS 最佳实践
以更清晰的认知 PyODPS，DataWorks PyODPS 节点以及 PyODPS 何时在计算集群运行，开发者如何利用 PyODPS 更高效地进行数据开发。
PyTorch与CUDA：加速深度学习模型训练的最佳实践
【8月更文第27天】随着深度学习应用的广泛普及，高效利用GPU硬件成为提升模型训练速度的关键。PyTorch 是一个强大的深度学习框架，它支持动态计算图，易于使用且高度灵活。CUDA (Compute Unified Device Architecture) 则是 NVIDIA 开发的一种并行计算平台和编程模型，允许开发者直接访问 GPU 的并行计算能力。本文将详细介绍如何利用 PyTorch 与 CUDA 的集成来加速深度学习模型的训练过程，并提供具体的代码示例。