摘要：在昇騰平臺(tái)上運(yùn)行PyTorch業(yè)務(wù)時(shí)，需要搭建異構(gòu)計(jì)算架構(gòu)CANN軟件開(kāi)發(fā)環(huán)境，并安裝PyTorch 框架，從而實(shí)現(xiàn)訓(xùn)練腳本的遷移、開(kāi)發(fā)和調(diào)試。

本文分享自華為云社區(qū)《手把手教你在昇騰平臺(tái)上搭建PyTorch訓(xùn)練環(huán)境》，作者：昇騰CANN。

PyTorch是業(yè)界流行的深度學(xué)習(xí)框架，用于開(kāi)發(fā)深度學(xué)習(xí)訓(xùn)練腳本，默認(rèn)運(yùn)行在CPU/GPU上。在昇騰AI處理器上運(yùn)行PyTorch業(yè)務(wù)時(shí)，需要搭建異構(gòu)計(jì)算架構(gòu)CANN（Compute Architecture for Neural Networks）軟件開(kāi)發(fā)環(huán)境，并安裝PyTorch 框架，從而實(shí)現(xiàn)訓(xùn)練腳本的遷移、開(kāi)發(fā)和調(diào)試。

(資料圖片僅供參考)

下面帶大家了解如何在昇騰平臺(tái)上快速安裝驅(qū)動(dòng)固件、CANN軟件及PyTorch框架。

環(huán)境檢查

在昇騰平臺(tái)上安裝驅(qū)動(dòng)和固件前，首先需要檢查安裝環(huán)境的NPU是否正常在位，并確認(rèn)操作系統(tǒng)版本與內(nèi)核版本是否滿足對(duì)應(yīng)的版本配套要求。

以Atlas 800 訓(xùn)練服務(wù)器（型號(hào)：9010）（昇騰AI處理器型號(hào)Ascend 910）為例，檢查NPU是否正常在位可執(zhí)行l(wèi)spci | grep d801命令，如果服務(wù)器上有 N路NPU，回顯N行含“d801”字段，則表示NPU正常在位。

安裝驅(qū)動(dòng)和固件

1.創(chuàng)建驅(qū)動(dòng)運(yùn)行用戶HwHiAiUser。

groupadd -g 1000 HwHiAiUser useradd -g HwHiAiUser -u 1000 -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash

2.安裝驅(qū)動(dòng)和固件。

在昇騰社區(qū)的“固件與驅(qū)動(dòng)”下載頁(yè)面下載配套產(chǎn)品的固件驅(qū)動(dòng)軟件，并上傳到服務(wù)器任意目錄，然后參考如下命令進(jìn)行固件驅(qū)動(dòng)軟件包的安裝，需要注意，需要以root用戶進(jìn)行安裝。

a.為軟件包增加可執(zhí)行權(quán)限。

chmod +x Ascend-hdk-910-npu-driver_23.0.rc1_linux-x86-64.runchmod +x Ascend-hdk-910-npu-firmware_6.3.0.1.241.run

b.安裝驅(qū)動(dòng)。

./Ascend-hdk-910-npu-driver_23.0.rc1_linux-x86-64.run --full --install-for-all

默認(rèn)安裝路徑為“/usr/local/Ascend”，出現(xiàn)類似如下回顯信息，說(shuō)明安裝成功。

Driver package installed successfully!復(fù)制

您還可以通過(guò)執(zhí)行npu-smi info命令查看，出現(xiàn)類似如下信息，說(shuō)明驅(qū)動(dòng)加載成功。

c.安裝固件。

./Ascend-hdk-910-npu-firmware_6.3.0.1.241.run --full

出現(xiàn)類型如下回顯信息，說(shuō)明安裝成功。

Firmware package installed successfully! Reboot now or after driver installation for the installation/upgrade to take effect

3.驅(qū)動(dòng)固件安裝完成后，重啟系統(tǒng)。

reboot

安裝CANN軟件依賴

CANN軟件安裝過(guò)程需要下載相關(guān)依賴，請(qǐng)確保安裝環(huán)境能夠連接網(wǎng)絡(luò)，并已配置軟件源，以下步驟以root用戶操作為例。

1. 安裝第三方依賴

Ubuntu系統(tǒng)（Debian、UOS20、Linux等系統(tǒng)操作一致）：

apt-get install -y gcc g++ make cmake zlib1g zlib1g-dev openssl libsqlite3-dev libssl-dev libffi-dev unzip pciutils net-tools libblas-dev gfortran libblas3

openEuler系統(tǒng)（EulerOS、CentOS、BCLinux等系統(tǒng)操作一致）：

yum install -y gcc gcc-c++ make cmake unzip zlib-devel libffi-devel openssl-devel pciutils net-tools sqlite-devel lapack-devel gcc-gfortran

2. 安裝Python及其依賴

以安裝Python 3.7.5為例。

1）通過(guò)wget命令下載python3.7.5源碼包。

wget https://www.python.org/ftp/python/3.7.5/Python-3.7.5.tgz

2）解壓縮源碼包

tar -zxvf Python-3.7.5.tgz

3）源碼編譯安裝Python。

?cd Python-3.7.5./configure --prefix=/usr/local/python3.7.5 --enable-loadable-sqlite-extensions --enable-sharedmakemake install

以--prefix=/usr/local/python3.7.5路徑為例進(jìn)行說(shuō)明。執(zhí)行配置、編譯和安裝命令后，安裝包在/usr/local/python3.7.5路徑。

4）設(shè)置python3.7.5環(huán)境變量。

#用于設(shè)置python3.7.5庫(kù)文件路徑export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:$LD_LIBRARY_PATH#如果用戶環(huán)境存在多個(gè)python3版本，則指定使用python3.7.5版本export PATH=/usr/local/python3.7.5/bin:$PATH

5）檢查是否安裝成功。

?python3 --versionpip3 --version

返回相關(guān)版本信息，則說(shuō)明安裝成功。

6）安裝pip依賴。

pip3 install attrs numpy decorator sympy cffi pyyaml pathlib2 psutil protobuf scipy requests absl-py

安裝CANN開(kāi)發(fā)套件包

1. 從昇騰社區(qū)“CANN”產(chǎn)品頁(yè)，根據(jù)操作系統(tǒng)架構(gòu)下載CANN開(kāi)發(fā)套件包。

例如“Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run”，并將其上傳到安裝環(huán)境任意目錄。

2. 安裝CANN開(kāi)發(fā)套件包。

# 添加可執(zhí)行權(quán)限chmod +x Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run# 校驗(yàn)軟件包的一致性和完整性./Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run --check# 執(zhí)行安裝命令./Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run --install --install-for-all

安裝完成后，若顯示如下信息，則說(shuō)明軟件安裝成功：

[INFO] xxx install success

xxx表示安裝的實(shí)際軟件包名。

安裝PyTorch

CANN軟件包安裝完成后，就可以進(jìn)行PyTorch的安裝了。開(kāi)發(fā)者可以選擇PyTorch 1.8.1或PyTorch 1.11.0版本，PyTorch安裝成功后再安裝APEX混合精度模塊。在安裝Pytorch前，需要先安裝以下依賴。

pip3 install wheelpip3 install typing_extensions

安裝PyTorch 1.8.1

1）安裝官方torch包。

x86_64架構(gòu)

wget https://download.pytorch.org/whl/cpu/torch-1.8.1%2Bcpu-cp37-cp37m-linux_x86_64.whlpip3 install torch-1.8.1+cpu-cp37-cp37m-linux_x86_64.whl

aarch64架構(gòu)

wget https://repo.huaweicloud.com/kunpeng/archive/Ascend/PyTorch/torch-1.8.1-cp37-cp37m-linux_aarch64.whlpip3 install torch-1.8.1-cp37-cp37m-linux_aarch64.whl

2）安裝昇騰提供的PyTorch適配插件torch_npu。

x86_64架構(gòu)

wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.8.1/torch_npu-1.8.1.post1-cp37-cp37m-linux_ x86_64.whlpip3 install torch_npu-1.8.1.post1-cp37-cp37m-linux_ x86_64.whl

aarch64架構(gòu)

?wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.8.1/torch_npu-1.8.1.post1-cp37-cp37m-linux_aarch64.whlpip3 install torch_npu-1.8.1.post1-cp37-cp37m-linux_aarch64.whl

此處以5.0.rc1版本為例，實(shí)際請(qǐng)選擇CANN配套的PyTorch插件版本進(jìn)行安裝。

3）安裝對(duì)應(yīng)框架版本的torchvision。

pip3 install torchvision==0.9.1

4）驗(yàn)證是否安裝成功。

python -c "import torch;import torch_npu; a = torch.ones(3, 4).npu(); print(a + a);"

如果輸出包含如下關(guān)鍵信息則說(shuō)明PyTorch安裝成功。

[[2., 2., 2., 2.],  [2., 2., 2., 2.],  [2., 2., 2., 2.]]

安裝PyTorch 1.11.0

1）安裝官方torch包。

x86_64架構(gòu)

wget https://download.pytorch.org/whl/cpu/torch-1.11.0%2Bcpu-cp37-cp37m-linux_x86_64.whlpip3 install torch-1.11.0+cpu-cp37-cp37m-linux_x86_64.whl

aarch64架構(gòu)

wget https://repo.huaweicloud.com/kunpeng/archive/Ascend/PyTorch/torch-1.11.0-cp37-cp37m-linux_aarch64.whlpip3 install torch-1.11.0-cp37-cp37m-linux_aarch64.whl

2）安裝昇騰提供的PyTorch適配插件torch_npu。

x86_64架構(gòu)

wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.11.0/torch_npu-1.11.0-cp37-cp37m-linux_ x86_64.whlpip3 install torch_npu-1.11.0-cp37-cp37m-linux_ x86_64.whl

aarch64架構(gòu)

wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.11.0/torch_npu-1.11.0-cp37-cp37m-linux_aarch64.whlpip3 install torch_npu-1.11.0-cp37-cp37m-linux_aarch64.whl

3）安裝對(duì)應(yīng)框架版本的torchvision。

pip3 install torchvision==0.12.0

4）驗(yàn)證PyTorch是否安裝成功。

python -c "import torch;import torch_npu; a = torch.ones(3, 4).npu(); print(a + a);"

如果輸出包含如下關(guān)鍵信息則說(shuō)明PyTorch安裝成功。

[[2., 2., 2., 2.],  [2., 2., 2., 2.],  [2., 2., 2., 2.]]

安裝APEX混合精度模塊

APEX混合精度模塊是一個(gè)集優(yōu)化性能、精度收斂于一身的綜合優(yōu)化庫(kù)，可以提供不同場(chǎng)景下的混合精度訓(xùn)練支持。

1. 獲取昇騰適配的APEX源碼以及原生APEX代碼。

# 獲取昇騰適配的APEX源碼git clone -b master https://gitee.com/ascend/apex.git# 在apex目錄下獲取原生APEX代碼cd apexgit clone https://github.com/NVIDIA/apex.git

2. 切換到原生APEX代碼對(duì)應(yīng)分支。

cd apexgit checkout 4ef930c1c884fdca5f472ab2ce7cb9b505d26c1acd ..

3. 在昇騰適配APEX源碼目錄的scripts路徑下生成昇騰適配全量代碼。

cd scriptsbash gen.sh

4. 編譯生成昇騰適配的APEX二進(jìn)制安裝包。

cd ../apexpython3 setup.py --cpp_ext --npu_float_status bdist_wheel

5. 安裝APEX。

86_64架構(gòu)

cd distpip3 install apex-0.1_ascend-cp37-cp37m-linux_ x86_64.whl

aarch64架構(gòu)

cd distpip3 install apex-0.1_ascend-cp37-cp37m-linux_aarch64.whl

到此，PyTorch訓(xùn)練環(huán)境就搭建完畢了，開(kāi)發(fā)者可以將PyTorch網(wǎng)絡(luò)腳本遷移到昇騰平臺(tái)執(zhí)行訓(xùn)練，使用昇騰平臺(tái)的強(qiáng)大算力。

關(guān)于更多文檔介紹，可以在昇騰文檔中心[1]查看，您也可在“昇騰社區(qū)在線課程[2]”板塊學(xué)習(xí)視頻課程，學(xué)習(xí)過(guò)程中的任何疑問(wèn)，都可以在“昇騰論壇[3]”互動(dòng)交流！

相關(guān)參考

[1]昇騰文檔中心

[2]昇騰社區(qū)在線課程

[3]昇騰論壇

點(diǎn)擊關(guān)注，第一時(shí)間了解華為云新鮮技術(shù)~

標(biāo)簽：