【Hello AI】如何安装AIACC-Training（AIACC训练加速）

AIACC-Training支持基于主流人工智能（包括PyTorch、TensorFlow、MXNet、Caffe等）搭建的模型进行分布式训练。在接口层面上，目前AIACC-Training兼容了PyTorch DDP以及Horovod的API，对于原生使用上述分布式训练方法的训练代码，可以做到无感的性能加速。本文将为您介绍安装AIACC-Training 1.5.0的多种方式。

前提条件

已创建阿里云GPU实例，且GPU实例需满足以下要求：

• 操作系统为Alibaba Cloud Linux、CentOS 7.x或Ubuntu 16.04以上版本。
• 已安装NVIDIA Driver和CUDA 10.0或以上版本。

背景信息

本文以安装AIACC-Training 1.5.0版本为例，您可以根据自身业务场景，选择以下任一方式安装AIACC-Training。

说明：在ECS管理控制台创建ECS时，如果控制台页面存在 AIACC训练加速选项，且您已选中 AIACC训练加速，则ECS创建完成后，会自动安装AIACC-Training 1.3.3版本。推荐您选用上述列表中的三种安装方式之一，安装AIACC-Training 1.5.0版本。

支持的框架列表

AIACC-Training提供对应不同深度学习框架版本的软件包，目前支持的框架版本如下：

说明：

• 目前TensorFlow以及MXNet仅支持Python 3.6版本。
• PyTorch支持Python 3.6~Python 3.9版本，具体与PyTorch官网提供的版本支持一致。更多版本支持信息，请参见PyTorch官网。
• 如您使用的框架版本不在上表支持范围内，请提交工单获取支持。

方式一：在已有的AI软件环境中安装AIACC-Training

若您已布置了深度学习训练环境，可以通过自动或手动方式安装AIACC-Training。安装前您的环境需满足以下条件：

• 已安装Python 3以及对应的pip工具。
• 已安装深度学习框架PyTorch、TensorFlow或MXNet。

重要：重新安装了深度学习框架之后，也需要再次安装AIACC-Training。

1. 自动安装AIACC-Training软件包（推荐）

AIACC-Training提供了对应框架版本的Python软件包，您可以执行如下命令，通过一键脚本自动安装。

wget https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/install_AIACC-Training.sh && bash install_AIACC-Training.sh

说明：脚本默认使用 python3作为Python的命令，如果您需要使用其他Python命令，可在脚本的最后添加。例如使用 python作为Python的命令，请执行命令 wget https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/install_AIACC-Training.sh && bash install_AIACC-Training.sh python进行一键安装。

2. 手动安装AIACC-Training软件包

您可以执行如下命令，使用pip手动安装最新的AIACC-Training软件包。

• 如果您使用的是PyTorch，请使用以下命令安装AIACC-Training。

pip install --force-reinstall https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/cuda${cuda_version}/perseus_torch-1.5.0%2B${framework_version}-cp${python_version}-cp${python_version}m-linux_x86_64.whl --trusted-host mirrors.aliyun.com -i http://mirrors.aliyun.com/pypi/simple/

部分参数说明如下：

• ${cuda_version}为cuda的版本，需要去除版本号中的半角句号（.），例如cuda 11.0对应cuda_version=110。
• ${framework_version}为框架版本号，例如PyTorch 1.7.1对应framework_version=1.7.1。
• ${python_version}为python的版本号，需要去除版本号中的半角句号（.），例如python 3.6对应python_version=36。

对于Python 3.8或以上版本的whl包，请使用如下的下载地址模板：

https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/cuda${cuda_version}/perseus_${framework}-1.5.0%2B${framework_version}-cp${python_version}-cp${python_version}-linux_x86_64.whl

以PyTorch 1.7.1、CUDA 11.0、Python 3.6版本为例，一键安装命令如下：

cuda_version=110         #注意：此处不带“.”号
framework=torch
framework_version=1.7.1
python_version=36
pip install --force-reinstall https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/cuda${cuda_version}/perseus_${framework}-1.5.0%2B${framework_version}-cp${python_version}-cp${python_version}m-linux_x86_64.whl --trusted-host mirrors.aliyun.com -i http://mirrors.aliyun.com/pypi/simple/

如果您使用TensorFlow或MXNet，请使用以下命令安装AIACC-Training。

pip install --force-reinstall https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/cuda${cuda_version}/perseus_${framework}-1.5.0%2B${framework_version}-py2.py3-none-manylinux1_x86_64.whl --trusted-host mirrors.aliyun.com -i http://mirrors.aliyun.com/pypi/simple/

以TensorFlow 1.15.0、CUDA 10.0、Python 3.6版本为例，一键安装命令如下：

cuda_version=100         #注意：此处不带“.”号
framework=tensorflow
framework_version=1.15.0
pip install --force-reinstall https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/cuda${cuda_version}/perseus_${framework}-1.5.0%2B${framework_version}-py2.py3-none-manylinux1_x86_64.whl --trusted-host mirrors.aliyun.com -i http://mirrors.aliyun.com/pypi/simple/

方式二：安装包含了AIACC-Training的Conda环境

Conda是一款开源跨平台的软件包及环境管理系统。您可以一键创建包含AIACC-Training的Conda环境，该环境已安装CUDA Toolkit、Python 3、深度学习框架以及最新的AIACC-Training软件等，方便您快速搭建和管理不同的深度学习框架和版本，并通过AIACC-Training显著提升训练性能。

1. 前往Conda官网，下载并安装最新版本的Miniconda。
2. 根据需要的框架版本和环境信息，执行如下命令，一键创建相应的Conda环境。

conda env create -f https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/conda/latest/${framework}_${framework_version}_cu${cuda_version}_py${python_version}.yaml

以PyTorch 1.7.1、CUDA11.0、Python 3.6为例，一键创建Conda环境的命令如下：

cuda_version=11.0  
framework=torch    
framework_version=1.7.1
python_version=36
conda env create -f https://ali-perseus-release.oss-cn-huhehaote.aliyuncs.com/conda/latest/${framework}_${framework_version}_cu${cuda_version}_py${python_version}.yaml

部分参数说明如下：

• ${cuda_version}：需为带半角句号（.）的CUDA版本号，此版本必须小于或等于ECS已安装的CUDA版本。
• ${framework}：为深度学习框架类型，tensorflow/mxnet/torch分别对应TensorFlow/MXNet/PyTorch框架。

说明：若提示找不到该Conda环境的URL，则表示暂不支持该框架版本。更多信息，请参见 支持的框架列表。

方式三：安装配有AIACC-Training的Docker镜像

您可以下载已安装了AIACC-Training的Docker镜像，该镜像内已安装CUDA、Python 3、深度学习框架和最新的AIACC-Training软件等，能够帮助您快速部署深度学习环境，管理不同的CUDA环境，并通过AIACC-Training显著提升训练性能。

安装前您的环境需满足以下条件：

• 已安装Docker。如果您使用的操作系统为Alibaba Cloud Linux 2，可以参考部署并使用Docker（Alibaba Cloud Linux 2）进行安装。
• 已安装NVIDIA Container Toolkit。具体操作，请参见NVIDIA Container Toolkit。

根据需要的框架版本和环境信息，执行如下命令，下载对应的Docker镜像。

docker pull registry.cn-beijing.aliyuncs.com/cto_office/perseus-training:${os_type}-cu${cuda_version}-${framework}${framework_version}-py${python_version}-latest

部分参数说明如下：

以CentOS 7、CUDA 11.0、TensorFlow 2.4.0的镜像为例，一键安装命令如下：

os_type=centos7          
cuda_version=11.0        
framework=tf             
framework_version=2.4.0
python_version=36        
docker pull registry.cn-beijing.aliyuncs.com/cto_office/perseus-training:${os_type}-cu${cuda_version}-${framework}${framework_version}-py${python_version}-latest

关于如何使用Docker进行分布式训练，具体操作，请参见 Horovod in Docker。

说明：

• 若提示找不到该Docker镜像，则表示暂不支持该框架版本。更多信息，请参见支持的框架列表。
• 若使用容器进行分布式训练，执行docker run命令启动需要增大shm的分配，参数为--shm-size=1g --ulimit memlock=-1。

好啦！小弹的分享到此为止。我们更欢迎您分享您对阿里云产品的设想、对功能的建议或者各种吐槽，请扫描提交问卷并获得社区积分或精美礼品一份。https://survey.aliyun.com/apps/zhiliao/P4y44bm_8

【扫码填写上方调研问卷】

欢迎每位来到弹性计算的开发者们来反馈问题哦~