GPU 云服务器正常工作需提前安装正确的基础设施软件，对 NVIDIA 系列 GPU 而言，有以下两个层次的软件包需要安装：
1.驱动 GPU 工作的硬件驱动程序。
2.上层应用程序所需要的库。
一、Linux 驱动安装
采用 Shell 脚本安装方式，适用于任何 Linux 发行版，包括 CentOS，Ubuntu 等。
首先，需要提前安装 gcc 和编译 Linux Kernel Module 所依赖的包，例如 kernel-devel-$(uname -r) 等。
检查当前系统中是否安装 dkms：
rpm -qa | grep -i dkms
上图表示已经安装 dkms
未安装的话，输入下方命令安装：
sudo yum install -y dkms
接着，登录 NVIDIA 驱动下载 或访问 http://www.nvidia.com/Download/Find.aspx
选择要下载的驱动版本
如有填写个人信息的页面可选择直接跳过，当出现以下页面时，右键单击【AGREE&DOWNLOAD】并选择菜单中的【复制链接地址】
接着，登陆登录 GPU云服务器，输入下面命令，地址为上面步骤复制的链接地址
对安装包添加执行权限
chmod +x NVIDIA-Linux-x86_64-418.126.02.run
检查当前系统中是否已安装 gcc 和 kernel-devel 包
rpm -qa | grep kernel-devel
rpm -qa | grep gcc
上图表示已经安装 gcc 和 kernel-devel
若未安装，执行下面命令安装即可
sudo yum install -y gcc kernel-devel
运行驱动安装程序
sudo sh NVIDIA-Linux-x86_64-418.126.02.run
进行验证
nvidia-smi
出现上图，表示驱动已经安装成功。
二、Windows 驱动安装
登陆GPU 云服务器
然后访问NVIDIA 驱动下载 官网。选择对应的版本下载
下载后双击安装即可。
参考来源：腾讯云