百度AI studio配置pytorch环境

1 之前的方法

百度的AI studio真的是良心了,V100显卡,显存16G,免费的卡,虽然平台主张使用paddle paddle其实pytorch也是可以用的按道理tensorflow也是可以用,但是cuda出现一点问题,虽然可以配置pytorch环境但是每次重启服务器之后又要重新配置pytorch,如果要配置的环境比较多的话,安装时间也是需要考虑的问题,还是不太方便,我猜百度是随机分配服务器的,所以这只适合没钱买显卡的学生党,而且算是送福利了,没卡真的很伤!

百度的anaconda环境直接给你配好了,所以可以直接使用conda命令

不说废话了

1,新建sh格式的shell文件,命名为(env.sh),目的是导入清华源,加快python库的安装速度

#!/bin/sh
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/
conda config --set show_channel_urls yes

2.创建自己的虚拟环境(一般情况下只需要三步)
 

sh env.sh
# 运行上面的shell脚本
conda create -n env_name python=3.7(新建虚拟环境,这里选择自己的python版本)
source activate env_name
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple torch==1.0.1 torchvision==0.2.1 pillow==6.1
(如果还要安装其它的python库可以在后面以  “库名==详细的版本号”的格式加入)

2 一个命令激活pytorch环境

把上面的命令统一放到一个env.sh脚本中,以后新建环境,只需source env.sh即可

#!/bin/bash
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/
conda config --set show_channel_urls yes
echo y | conda create -n env_name python=3.7 ; source activate env_name ; pip install -i https://pypi.tuna.tsinghua.edu.cn/simple torch==1.0.1 torchvision==0.2.1 pillow==6.1

然后就可以使用了,注意百度的cuda版本是9.2 我安装的pytorch1.0.1是可以安装的如果按照其它的pytorch版本注意是否与cuda9.2匹配。当然也可以自己换cuda版本,有点麻烦并且每次重新配置环境不建议。

可能有人不太相信,下面我截个图,

正常情况下nvidia-smi命令显示如下,注意看显卡使用为0MiB /16160MiB

我跑的mnist代码

在运行深度学习代码的过程中nvidia-smi命令显示如下图,显存使用6004MiB /16160MiB,

只要显存使用不为0就说明在使用显卡,手写识别项目数据比较小,大量数据的情况V100也够了,bert微调也可以

我还跑了一个比较大的模型residual attention这篇文章的代码attention-92参数数量19920362

不用gpu加速的时候,运行时间如下图最后一行 4323s/epoch

使用gpu加速的时候,127s/epoch, 4323/127=34倍,所以使用gpu加速的训练速度是不使用gpu加速的34倍!

猜你喜欢

转载自blog.csdn.net/firesolider/article/details/104948008