显卡驱动以及CUDA安装好后（https://blog.csdn.net/avideointerfaces/article/details/100558457），就可以根据cuda的版本以及平台类型（linux，windows，ios等）等信息来下载对应的cudnn包。
1）首先进入下面的nvidia官网
https://developer.nvidia.com/cudnn
2）点击下图红框所示的“Download cuDNN".如果你还没登陆的话，会弹出一个登陆页面要你输入用户名和密码。当然还没注册的话，先免费注册吧。
3）注册并登陆后，重新点击download cuDNN，这时出现下面的页面，你一定要在红框里面打勾来遵守软件协定。
4）打完勾后，会弹出cudnn版本list，如下所示。如果这几个版本不符合你的要求，可以点击下面红框，会现实full list版本。
5）因为我的cuda版本是9.1，而cuda9.1对应3个左右的cudnn版本，我这里选择一个旧一点的cudnn7.0.5。因为平台是Ubuntu，所以选择linux库，如下图第二个红框所示。点击它，会立即开始下载，如下面第三个红框所示。
很久没有下载cudnn库了，在上面第三个红框中，看到后缀名为solitairetheme8的下载包，当时觉得很纳闷是不是搞错了，应该是后缀名为tgz啊，是不是下载错了。折腾很久，后来才知道下载到本地后，需要手动修改后缀名为tgz，然后再解压缩。命令如下所示。
mv cudnn-9.1-linux-x64-v7.solitairetheme8 cudnn-7.0.5.tgz
tar -xvzf cudnn-7.0.5.tgz因为下载的是库，不是源代码，所以不需要编译了。只需要将解压缩出来的so库和头文件拷贝到系统目录下即可。
sudo cp cuda/include/cudnn.h /usr/include/
sudo cp cuda/lib64/libcudnn* /lib