阿里云容器服务共享GPU调度支持算力分配
ACK Pro集群支持为应用申请GPU显存和算力，能够帮助您更精细化的使用GPU的显存和算力资源。本文介绍如何使用算力分配功能。前提条件已创建ACK Pro版集群，且集群版本为1.20.11。关于Kubernetes的升级操作，请参见升级ACK集群K8s版本。已安装共享GPU组件，且Chart版本>1.2.0。关于安装共享GPU组件的具体操作，请参见安装并使用共享GPU组件和资源工具。cGP
DeepSeek集群版一键部署
本文介绍如何通过阿里云计算巢一键部署DeepSeek集群版，支持弹性扩缩容。DeepSeek-R1是2025年发布的开源大模型，性能与OpenAI-o1相当。集成Ollama和Open WebUI，用户可通过Web界面管理大模型。计算巢基于阿里云ACK和Knative架构，存储采用NAS，网关使用Kourier，默认拉取deepseek-r1:7B模型。计费涉及GPU规格、节点数量、磁盘容量和公网带宽。RAM账号需具备ECS、VPC等权限。部署流程简单，用户可快速启动并使用服务，支持公网和私网访问，提供API接口及进阶教程，如添加用户、下载其他模型和配置弹性扩缩容。
2025阿里云服务器租赁价格表一年、1个月和1小时收费标准（200M峰值带宽）
阿里云服务器价格优惠，2025年最新租用费用表显示，轻量应用服务器2核2G配置一年仅需68元（秒杀38元），带200M峰值带宽。云服务器ECS方面，99元/年的2核2G经济型和199元/年的2核4G企业专享型备受青睐。4核16G游戏服务器70元/月，8核32G则160元/月。GPU服务器也有大幅折扣，如T4显卡的gn6i最低配置4核15G一个月1878.40元。续费享有长期折扣，1年7.5折，3年4.5折等。公网带宽和系统盘按需计费，ESSD云盘性能优越，价格透明。详情见官网。
2025年阿里云GPU服务器的租赁价格与选型指南
随着AI、深度学习等领域的发展，GPU服务器成为企业及科研机构的核心算力选择。阿里云提供多种GPU实例类型（如NVIDIA V100、A100等），涵盖计算型、共享型和弹性裸金属等，满足不同场景需求。本文详解2025年阿里云GPU服务器的核心配置、价格策略及适用场景，帮助用户优化选型与成本控制，实现高效智能计算。
魔搭+Xinference 平台：CPU，GPU，Mac-M1多端大模型部署
随着 Llama2 的开源，以及通义千问、百川、智谱等国内大模型的问世，很多用户有了本地部署去尝试大模型的需求，然而硬件的需求阻碍了很多人的尝试，并不是所有人都拥有一块英伟达显卡的，所以 Llama2 问世不久，大神 Andrej Karpathy 的一个 weekend project 爆火——llama2.c。
如何准确的估计llm推理和微调的内存消耗
最近发布的三个大型语言模型——Command-R+ (104B参数), Mixtral-8x22b (141B参数的MoE模型), 和 Llama 3 70b (70.6B参数)——需要巨大的内存资源。推理时，Command-R+需193.72GB GPU RAM，Mixtral-8x22B需262.63GB，Llama 370b需131.5GB。激活的内存消耗根据序列长度、批大小等因素变化。文章详细介绍了计算这些模型内存需求的方法，并探讨了如何通过量化、优化器优化和梯度检查点减少内存使用，以适应微调和推理。