# 人工智能平台 PAI #
1
关注
3975内容
阿里云PAI大模型RAG对话系统最佳实践
本文为大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
通义千问开源模型在PAI灵骏的最佳实践
本文将展示如何基于阿里云PAI灵骏智算服务，在通义千问开源模型之上进行高效分布式继续预训练、指令微调、模型离线推理验证以及在线服务部署。
MNN：阿里开源的轻量级深度学习推理框架，支持在移动端等多种终端上运行，兼容主流的模型格式
MNN 是阿里巴巴开源的轻量级深度学习推理框架，支持多种设备和主流模型格式，具备高性能和易用性，适用于移动端、服务器和嵌入式设备。
ubuntu22 编译安装docker，和docker容器方式安装 deepseek
本脚本适用于Ubuntu 22.04，主要功能包括编译安装Docker和安装DeepSeek模型。首先通过Apt源配置安装Docker，确保网络稳定（建议使用VPN）。接着下载并配置Docker二进制文件，创建Docker用户组并设置守护进程。随后拉取Debian 12镜像，安装系统必备工具，配置Ollama模型管理器，并最终部署和运行DeepSeek模型，提供API接口进行交互测试。
一文彻底拿下，赶紧本地部署DeepSeek体验一下最牛的大模型
本文介绍如何本地化部署DeepSeek大模型（deepseek-r1）及open-webui的安装过程，包括命令行操作、版本兼容性处理等详细步骤。DeepSeek号称“国运级”大模型，性能媲美OpenAI，支持直接对话，降低使用门槛。通过本教程，读者可以快速上手体验这一强大的推理模型。
DeepSeek 开源周第三弹！DeepGEMM：FP8矩阵计算神器！JIT编译+Hopper架构优化，MoE性能飙升
DeepGEMM 是 DeepSeek 开源的专为 FP8 矩阵乘法设计的高效库，支持普通和混合专家（MoE）分组的 GEMM 操作，基于即时编译技术，动态优化矩阵运算，显著提升计算性能。
视频生成框架EasyAnimate正式开源！
EasyAnimate是人工智能平台PAI自主研发的DiT-based视频生成框架，它提供了完整的高清长视频生成解决方案，包括视频数据预处理、VAE训练、DiT训练、模型推理和模型评测等。可以使用EasyAnimate进行任意风格视频模型的训练和推理，还可以在预训练模型的基础上，通过少量图片的LoRA微调来改变生成视频的风格。
大模型进阶微调篇（三）：微调GPT2大模型实战
本文详细介绍了如何在普通个人电脑上微调GPT2大模型，包括环境配置、代码实现和技术要点。通过合理设置训练参数和优化代码，即使在无独显的设备上也能完成微调，耗时约14小时。文章还涵盖了GPT-2的简介、数据集处理、自定义进度条回调等内容，适合初学者参考。
免费试用