深度学习显卡加速 Windows系统下python、cuda、cudnn、pytorch-gpu配置

由于做视觉的常用网络模型都较大（例如yolov5s、yolov5m、yolov5l等模型），在采用cpu跑这些模型的时候会比较久，在采用摄像头拍摄画面作为输入时会有明显的卡顿（仿佛播放PPT），所以一般需要配置gpu加速。本文从python虚拟环境的安装开始介绍，到成功安装pytorch的gpu版本，顺利采用GPU加速。

1 安装Anaconda并配置虚拟python环境

Anaconda是一个非常好用且免费的python环境管理软件。首先去Anaconda官网下载individual版本，下载后安装，安装过程会安装如下软件，powershell prompt是命令行窗口，jupyter notebook是一个基于网页的即时交互式代码编写和运行工具，spyder是一个类似于matlab的代码编辑软件，适用于科研调试。

打开powershell prompt，最左边会显示（base）,表示当前python环境是安装anaconda时自动安装的base环境。采用如下命令创建一个名为py37的python3.7版本的python虚拟环境：

(base) PS C:\Users\Jq Liu> conda create -n py37 python=3.7 

py37为自己起得环境名称，3.7指python版本，在蹦出来的问题后，输入y并回车，即创建完成。在命令行中输入如下命令，将当前base环境更换为刚刚创建的py37环境：

(base) PS C:\Users\Jq Liu> conda activate py37
(py37) PS C:\Users\Jq Liu>

2 安装CUDA

确保自己已经安装了NVIDIA的显卡驱动，在桌面右键，打开英伟达控制面板，在控制面板中点击左下角的“系统信息”，在组建中可以看到显卡驱动支持的CUDA版本，此处我的为CUDA11.1（该版本应该是显卡驱动支持的最高的CUDA版本，应该也去可以安装CUDA11.0，CUDA10.1等版本）。

前往英伟达NVIDIA CUDA下载官网下载cuda，此处在官网中选择11.1.0或者11.1.1版本，然后按图中下载network版本。

双击下载好的文件，进入cuda的安装界面，基本上一路默认即可。此处，我的安装路径为C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1

3 下载并配置cudnn

cudnn是英伟达官网为显卡加速而编写的神经网络加速包，去NVIDIA cudnn官网下载cudnn，选择for CUDA 11.1的cudnn。由于浏览器下载很慢，经常容易失败，建议复制链接去迅雷下载，速度相当快。下载并解压后，会有如下3个文件夹

将这3个文件夹复制到cuda的安装根目录，此处我的为C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1\，即完成cudnn配置。

4 检查CUDA是否安装成功

打开命令行工具powershell prompt，输入nvcc -V命令。

(py37) PS C:\Users\Jinqiang Liu> nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2020 NVIDIA Corporation
Built on Mon_Oct_12_20:54:10_Pacific_Daylight_Time_2020
Cuda compilation tools, release 11.1, V11.1.105
Build cuda_11.1.relgpu_drvr455TC455_06.29190527_0

此处显示“release 11.1, V11.1.105”说明已经配置成功。

5 安装gpu版本pytorch

pytorch是常用的用于构建神经网络的库，此处我们前往Pytorch官网下载适配CUDA11.1版本的pytorch。选择cu111/torch-1.9.0%2Bcu111-cp37-cp37m-win_amd64.whl。cu111指适配cuda11.1版本，torch-1.9.0指pytorch版本为1.9.0，cp37指适配的python版本为3.7，win_amd64指适配windows系统。依旧建议采用迅雷下载。

此外，还需要下载torchvision，选择cu111/torchvision-0.10.0%2Bcu111-cp37-cp37m-win_amd64.whl。torch版本与torchvision版本需要对应，torch1.9.0对应torchvision0.10.0。

下载完成后，开始安装。在命令行工具中进入py37环境，通过cd命令切换到下载的两个文件的地址，我的下载下来是放在桌面，那么在命令行中输入cd .\Desktop\即可切换到桌面地址。然后采用pip安装下载的两个文件

(py37) PS C:\Users\Jq Liu> cd .\Desktop\
(py37) PS C:\Users\Jq Liu\Desktop> pip install cu111/torch-1.9.0%2Bcu111-cp37-cp37m-win_amd64.whl
(py37) PS C:\Users\Jq Liu\Desktop> pip install cu111/torchvision-0.10.0%2Bcu111-cp37-cp37m-win_amd64.whl

6 下载pycharm编辑器

除了spyder编辑器外，pycharm也是一款常用的编辑器。直接前往Pycharm官网下载社区开源版本，默认安装即可。

7 测试pytorch-gpu是否可用

双击打开Pycharm，创建新项目project。为新的project配置python运行环境：在pycharm界面，点击左上角File -> Settings -> Project: -> Python Interpreter。点击界面中右边“设置按钮”，再点击Add，出现如下界面。在界面中选择conda environment，然后找到py37虚拟环境的python.exe，参考下图。

确认添加后，点击下图的下拉框，点击Show all，然后选择刚才添加的py37，最后确认即可。这样该项目下的python文件在运行时，就是调用py37环境的python.exe进行编译运行了。

在Pycharm主界面中，点击左上角File -> New -> Python File，给文件命名为test，即创建了一个python文件。在编辑窗口中输入

import torch
print(torch.cuda.is_available())

在编辑区任意地方右键，点击“Run”即运行该python文件，如果pytorch-gpu可用，便会如图中所示显示True。

至此，gpu版本的pytorch安装成功，可以去下载一个yolov5模型来感受一下。

由于作者水平有限，如有不对之处，还请见谅，并在评论区批评指正！