# GPU云服务器 #
1
关注
7887内容
llama factory 从数据集起步 跑通 qwen系列开源生成式大模型 微调
`dataset_info.json` 文件用于管理 llama factory 中的所有数据集，支持 `alpaca` 和 `sharegpt` 格式。通过配置此文件，可以轻松添加自定义数据集。数据集的相关参数包括数据源地址、数据集格式、样本数量等，支持 Hugging Face 和 ModelScope 两个平台的数据集仓库。针对不同格式的数据集，提供了详细的配置示例，如 `alpaca` 格式的指令监督微调数据集、偏好数据集等，以及 `sharegpt` 格式的多模态数据集等。今天我们通过自定义数据集的方式来进行qwen2.5_14B_instruct模型进行微调
深度学习之测量GPU性能的方式
在深度学习中，测量GPU性能是一个多方面的任务，涉及运行时间、吞吐量、GPU利用率、内存使用情况、计算能力、端到端性能测试、显存带宽、框架自带性能工具和基准测试工具等多种方法。通过综合使用这些方法，可以全面评估和优化GPU的性能，提升深度学习任务的效率和效果。
优化注意力层提升 Transformer 模型效率：通过改进注意力机制降低机器学习成本
Transformer架构自2017年被Vaswani等人提出以来，凭借其核心的注意力机制，已成为AI领域的重大突破。该机制允许模型根据任务需求灵活聚焦于输入的不同部分，极大地增强了对复杂语言和结构的理解能力。起初主要应用于自然语言处理，Transformer迅速扩展至语音识别、计算机视觉等多领域，展现出强大的跨学科应用潜力。然而，随着模型规模的增长，注意力层的高计算复杂度成为发展瓶颈。为此，本文探讨了在PyTorch生态系统中优化注意力层的各种技术，
手把手教学攻略：在Anolis OS上部署OpenVINO深度学习模型
Anolis OS 作为国内首个正式提供 OpenVINO 开发包和镜像的服务器端操作系统，推动国内 AI 推理生态和能力的升级。
手把手带你搭建一个语音对话机器人，5分钟定制个人AI小助手（新手入门篇）
本文介绍了如何从零开始搭建一个语音对话机器人，涵盖自动语音识别（ASR）、自然语言处理（NLP）和文本到语音合成（TTS）三大核心模块。通过使用开源工具如FunASR、LLaMA3-8B和ChatTTS，以及FastAPI和Gradio等技术，详细指导读者轻松实现个人AI小助手的构建，适合技术新手快速上手。
阿里云GPU云服务器性能、应用场景及收费标准和活动价格参考
GPU云服务器作为阿里云提供的一种高性能计算服务，通过结合GPU与CPU的计算能力，为用户在人工智能、高性能计算等领域提供了强大的支持。其具备覆盖范围广、超强计算能力、网络性能出色等优势，且计费方式灵活多样，能够满足不同用户的需求。目前用户购买阿里云gpu云服务器gn5 规格族（P100-16G）、gn6i 规格族（T4-16G）、gn6v 规格族（V100-16G）有优惠，本文为大家详细介绍阿里云gpu云服务器的相关性能及收费标准与最新活动价格情况，以供参考和选择。
在云上部署ChatGLM2-6B大模型（GPU版）
本教程指导您在配置了Alibaba Cloud Linux 3的GPU云服务器上，安装大模型运行环境（如Anaconda、Pytorch等），并部署大语言模型，最后通过Streamlit运行大模型对话网页Demo。教程包括创建资源、登录ECS实例、安装及校验CUDA、NVIDIA驱动和cuDNN等步骤。
Kotlin - 改良设计模式 - 构建者模式
Kotlin - 改良设计模式 - 构建者模式
系统性能提升40%！阿里云助力朗镜科技AI商品识别平台实现云原生架构升级
全新系统从容应对百万级图片及海量SKU识别
免费试用