深度學習環境搭建常用網址、conda/pip命令行整理(pytorch、paddlepaddle等環境搭建)

前言:最近研究深度學習,安裝了好多環境,記錄一下,方便後續查閱。

1. Anaconda軟體安裝

1.1 Anaconda

Anaconda是一個用於科學計算的Python發行版,支援Linux、Mac、Windows,包含了眾多流行的科學計算、數據分析的Python包。請自行到官網下載安裝,下載速度太慢的話可移步清華源。

官網://repo.anaconda.com/archive/

清華源://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/

1.2 Miniconda

Miniconda是一個Anaconda的輕量級替代,默認只包含了python和conda,但是可以通過pip和conda來安裝所需要的包。

官網://docs.conda.io/en/latest/miniconda.html

清華源://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/

2. Anaconda創建虛擬環境

2.1 創建新的虛擬環境

(1)一步完成搭建。需要注意的是要更換python版本,只能用conda命令

conda create –n name python=3.8.10 anaconda

後邊加anaconda命令選項(可選),在建立虛擬環境的同時,也會安裝Jupyter Notebook、Numpy、Scipy、Matplotlib、Panda等python軟體包。

(2)分步搭建

# 該命令會創建一個空的conda虛擬環境,此時該環境中沒有任何依賴包,只有conda命令可用
conda create –n name
# 安裝python環境,可以指定python版本,不帶版本號則會默認安裝最新版本
conda install python==3.6.2

2.2 啟動/關閉環境

conda activate name  # 啟動虛擬環境
conda deactivate # 關閉當前環境,退回到base

注意:早期版本的anaconda,前邊不需要加conda,直接activate name/deactivate即可。

2.3 刪除環境

conda remove -n name -all

2.4 快速創建(複製其他環境)

conda create -n name3 --clone name

2.5 環境重命名

conda create -n name2 -clone name  # 先copy當前環境
conda remove -n name -all  # 再刪除

2.6 將虛擬環境設置為本機當前python環境

安裝完anaconda,默認本機python環境為base環境,可以通過修改環境變數PATH下邊的路徑,完成本機python環境的切換。

     

3. 查看和修改conda環境配置

3.1 查看虛擬環境

conda info -e(或conda info --envs或conda env list)

3.2 查看conda的config資訊

conda config --show

3.3 查看conda的channels資訊

conda config --show channels

3.4 移除某個channels

conda config --remove channels //mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/(這是清華維護的conda三方源之一的conda-forge的鏡像,目前不一定能用)

3.5 添加可用的清華源

conda config --add channels //mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels //mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes(安裝時顯示channel的url)

4. 查看電腦硬體資訊

4.1 cuda版本

(1)進入NVIDIA控制面板查看

nvidia-smi

若報未找到命令,cmd進入目錄C:\Program Files\NVIDIA Corporation\NVSMI再輸入命令nvidia-smi,或者添加該目錄到環境變數。

(2)命令行查看cuda版本

nvcc --version  # 或者nvcc -V

(3)python中查看cuda資訊

import torch
# 查看cuda版本
torch.version.cuda  # 返回cuda版本號,比如11.1
# 查看cuda是否可用
torch.cuda.is_available()
# 查看可用cuda設備數
torch.cuda.device_count()

4.2 cudnn版本

進入cuda安裝目錄打開cudnn_version.h查看(低版本沒有cudnn_version.h,可在cudnn.h查看)

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1\include\cudnn_version.h

也可以打開python,輸入如下指令查看

import torch
torch.backends.cudnn.version()  # 返回cudnn版本號,比如8005 

4.3 cuda和顯示卡驅動版本對應關係

5. cuda和cudnn安裝

cuda下載網址://developer.nvidia.cn/cuda-toolkit-archive

cudnn下載網址://developer.nvidia.cn/rdp/cudnn-archive

官網下載速度都很快,比較煩的是cudnn下載需要註冊NVIDIA會員。建議花點時間註冊一個,調參俠必備。

cuda安裝這裡不再贅述,一路默認安裝到底即可。完成cuda安裝後需要將cudnn中的bin、include和lib三個文件夾拷貝至cuda根目錄下。另外記得添加環境變數,一般安裝的時候都會默認添加。

一台設備可以同時安裝任意多個cuda版本,可以通過修改環境變數來設置當前使用的cuda版本。環境變數中有三處與cuda有關的設置:

設置本機當前使用的cuda版本,只需要將PATH路徑中對應版本的bin文件目錄置前。和CUDA_PATH、NVCUDASAMPLES_ROOT路徑無關。

6. PyTorch環境搭建

6.1 中國鏡像源使用

(1)常見中國源鏡像

# 清華源
pip install pkgname -i //pypi.tuna.tsinghua.edu.cn/simple
# 豆瓣源
pip install pkgname -i //pypi.douban.com/simple
# 阿里源
pip install pkgname -i //mirrors.aliyun.com/pypi/simple
# 百度源
pip install pkgname -i //mirror.baidu.com/pypi/simple
# 中科大源
pip install pkgname -i //pypi.mirrors.ustc.edu.cn/simple

(2)臨時使用源鏡像下載

# pip
pip install -i //pypi.tuna.tsinghua.edu.cn/simple pkgname
pip install pkgname -i //pypi.douban.com/simple/

# conda
conda install -c //pypi.tuna.tsinghua.edu.cn/simple pkgname
conda install pkgname -c //pypi.douban.com/simple/

6.2 PyTorch安裝

官網下載地址:Start Locally | PyTorchPrevious PyTorch Versions | PyTorch

conda install pytorch==1.11.0 torchvision==0.12.0 torchaudio==0.11.0 cudatoolkit=11.3 -c pytorch (-c pytorch表示從官網下載)
pip install torch==1.11.0+cu113 torchvision==0.12.0+cu113 torchaudio==0.11.0 --extra-index-url //download.pytorch.org/whl/cu113
pip install torch==1.11.0+cu113 torchvision==0.12.0+cu113 torchaudio==0.11.0 –f //download.pytorch.org/whl/torch_stable.html --trusted-host download.pytorch.org(速度快)

使用官方網址提供的命令可快速完成torch安裝配置,但是官網只提供一些固定版本的torch和cuda組合。可以根據自己的硬體配置,在官方下載網址或其他網站先行下載torch、torchvison等安裝包,然後將安裝包copy到指定路徑下,再用conda/pip命令安裝。大多數安裝包都是以wheel格式保存的whl文件(Wheel是Python發行版的標準內置包格式),可直接用pip安裝。

pip install cu101/torch-1.7.0%2Bcu101-cp38-cp38-win_amd64.whl  

6.3 測試torch環境

import torch as t
t.__version__  # 成功則返回1.11.0+cu113  
t.cuda.is_available()   # 成功則返回True
# 退出python編譯環境:
exit()  # 或quit()

7. PaddlePaddle環境搭建

7.1 CPU版PaddlePaddle

conda install paddlepaddle==2.3.2 --channel //mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/

7.2 GPU版PaddlePaddle

本人測試下來conda下載速度賊慢,pip很快,兩種方式都可嘗試下,怎麼快怎麼來。

conda install paddlepaddle-gpu==2.3.2 cudatoolkit=11.2 -c //mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/ -c conda-forge
pip install paddlepaddle-gpu==2.3.2.post112 -f //www.paddlepaddle.org.cn/whl/windows/mkl/avx/stable.html

7.3 測試PaddlePaddle環境

import paddle
paddle.utils.run_check()

電腦本地還沒有安裝cuda和cudnn,但也顯示GPU版本PaddlePaddle已可用,有點奇怪,後邊再訓練個網路模型測試一下。