内部干货 | 基于华为昇腾910B算力卡的大模型部署和调优-课程讲义
近日上海，TsingtaoAI为某央企智算中心交付华为昇腾910B算力卡的大模型部署和调优课程。课程深入讲解如何在昇腾NPU上高效地训练、调优和部署PyTorch与Transformer模型，并结合实际应用场景，探索如何优化和迁移模型至昇腾NPU平台。课程涵盖从模型预训练、微调、推理与评估，到性能对比、算子适配、模型调优等一系列关键技术，帮助学员深入理解昇腾NPU的优势及其与主流深度学习框架（如PyTorch、Deepspeed、MindSpore）的结合应用。
Transformers入门指南：从零开始理解Transformer模型
【10月更文挑战第29天】作为一名机器学习爱好者，我深知在自然语言处理（NLP）领域，Transformer模型的重要性。自从2017年Google的研究团队提出Transformer以来，它迅速成为NLP领域的主流模型，广泛应用于机器翻译、文本生成、情感分析等多个任务。本文旨在为初学者提供一个全面的Transformers入门指南，介绍Transformer模型的基本概念、结构组成及其相对于传统RNN和CNN模型的优势。
从零开始下载torch+cu（无痛版）
这篇文章提供了一个详细的无痛版教程，指导如何从零开始下载并配置支持CUDA的PyTorch GPU版本，包括查看Cuda版本、在官网检索下载包名、下载指定的torch、torchvision、torchaudio库，并在深度学习环境中安装和测试是否成功。
全网首发！真·从0到1！万字长文带你入门Qwen2.5-Coder——介绍、体验、本地部署及简单微调
2024年11月12日，阿里云通义大模型团队正式开源通义千问代码模型全系列，包括6款Qwen2.5-Coder模型，每个规模包含Base和Instruct两个版本。其中32B尺寸的旗舰代码模型在多项基准评测中取得开源最佳成绩，成为全球最强开源代码模型，多项关键能力超越GPT-4o。Qwen2.5-Coder具备强大、多样和实用等优点，通过持续训练，结合源代码、文本代码混合数据及合成数据，显著提升了代码生成、推理和修复等核心任务的性能。此外，该模型还支持多种编程语言，并在人类偏好对齐方面表现出色。本文为周周的奇妙编程原创，阿里云社区首发，未经同意不得转载。
vLLM 架构学习指南
本指南深入解析vLLM高性能推理引擎架构，涵盖核心创新PagedAttention与连续批处理技术，结合代码结构、学习路径与实践建议，系统指导用户从入门到贡献源码的全过程。
从零开始：如何训练自己的AI模型
### 从零开始：如何训练自己的AI模型
训练AI模型如同培养新生儿，需耐心与技巧。首先明确目标（如图像识别、自然语言处理），选择框架（TensorFlow、PyTorch）。接着收集并预处理数据，确保多样性和准确性。然后设计模型结构，如卷积神经网络（CNN），并通过代码实现训练。训练后评估模型性能，调优以避免过拟合。最后部署模型至实际应用。通过猫狗分类器案例，掌握关键步骤和常见问题。训练AI模型是不断迭代优化的过程，实践才能真正掌握精髓。
