说明：只有NVIDIA显卡才支持用GPU跑TensorFlow。在https://developer.nvidia.com/cuda-gpus查询GPU是否支持CUDA，一般要计算能力在3.0以上才适合。
1，CUDA下载：
CUDA(Compute Unified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。）下载地址：https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exelocal。下载完安装即可，推荐使用默认安装地址，（我因为没用默认地址，出了好多没法解决的问题，最后还是重新用默认地址安装了）
2cuDNN下载：cuDNN是用于深度神经网络的GPU加速库。tensorflow版本不同，需要的cuDNN版本也不一样。官网下载比较麻烦，大家可以直接在这里下载cuDNN6：https://www.zhihu.com/question/37082272。下载后解压。解压过后将相应的文件拷贝到相应的目录：
如果第一步安装CUDA没有修改安装路径，执行以下操作：
复制 cudnn\bin\cudnn64_5.dll 到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0\bin\
复制 cudnn\include\cudnn.h 到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0\include\
复制 cudnn\lib\x64\cudnn.lib 到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0\lib\x64\
3安装TensorFlow-GPU
在cmd下输入pip install -i https://pypi.mirrors.ustc.edu.cn/simple/ tensorflow-gpu==1.4.0 (因为原地址下载太慢了，所以零时使用清华的源下载)。
4测试：
import tensorflow as tf
a = tf.constant([1.0,2.0,3.0],shape = [3], name='a')
b = tf.constant([1.0,2.0,3.0], shape = [3], name='b')
c = a +b
sess = tf.Session(config = tf.ConfigProto(log_device_placement =True))
print(sess.run(c))
输出：
大工告成，特别提示：不是所有的程序用GPU跑都会更快，只有在做图像处理，即卷积计算的时候才会，其他时候用GPU跑甚至会比CPU跑的更慢。
参考:
https://blog.csdn.net/listener51/article/details/77752027
https://blog.csdn.net/qq_35239859/article/details/79827203
https://blog.csdn.net/shuiyuejihua/article/details/78738664