依赖与协同

• 依赖：cuDNN是建立在CUDA之上的库，它依赖于 CUDA 提供的基础计算能力。因此，使用 cuDNN 必须先安装 CUDA。

• 协同：在深度学习框架中，CUDA 提供了底层的 GPU 计算能力，而 cuDNN 通过调用 CUDA 来优化和加速深度学习操作。这种协同工作大幅提升了深度学习模型的训练和推理速度。

CUDA

CUDA（Compute Unified Device Architecture），统一计算设备架构，是由 NVIDIA 提供的并行计算平台和编程模型。它允许开发者利用 NVIDIA GPU 的强大计算能力进行通用计算，包括‌科学计算、‌机器学习、‌图像处理和‌视频处理等。CUDA提供了GPU并行计算的底层基础，使GPU能够解决复杂的计算问题。

cuDNN

使用 cuDNN 时需要确保它与 CUDA 版本的兼容性。
cuDNN是基于CUDA的深度神经网络加速库，提供了针对深度学习常见操作（如卷积、池化、归一化、激活函数等）的高度优化实现。

• 性能优化：cuDNN 为卷积神经网络等深度学习模型的训练和推理提供了极高的性能优化。它利用 CUDA 在 GPU 上进行加速计算，充分发挥了 GPU 的并行计算能力。
• 易用性：cuDNN 被集成在主流的深度学习框架（如 TensorFlow、PyTorch、MXNet 等）中，用户直接通过框架调用 cuDNN 的功能，无需关心底层实现细节。

GPU驱动

驱动更新

打开GEFORCE进行驱动更新（或者在NVIDIA app）

安装成功：

版本检查

在cmd里面，输入nvidia-smi查看GPU驱动程序版本：
右上角：CUDA Version：12.6就是版本号

开始安装(集显安装CPU版本)

【无独显的商务本安装CPU版本】

安装CUDA

在安装PyTorch时无需单独安装CUDA，安装包会根据你选择的 CUDA 版本自动包含所需的CUDA库。

官网地址：https://developer.nvidia.com/cuda-toolkit-archive，选择安装版本(这里选择的是12.4.1版本)

点击下载完成

安装：

1. 双击下载的 cuda_11.8.0_522.06_windows.exe
2. 选择安装选项：
   • 安装类型 → 选择 自定义（高级）
   • 组件 → 确保勾选：
     • CUDA → Development + Runtime
     • Driver components（如果未安装最新NVIDIA驱动）
   • 取消勾选 Visual Studio Integration（除非需要VS支持）
3. 完成安装后，验证环境变量是否自动添加：
   • 检查 PATH 是否包含：
     C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4\bin

测试

cmd打开命令界面，输入：

nvcc -V

安装cuDNN

官网地址：cuDNN Archive | NVIDIA Developer，需要先注册账号(使用邮箱注册即可)，这里安装的是8.9.7版本

下载好之后，解压：

复制这三个文件，替换 cuda 安装文件夹下(默认地址：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4)的对应三个文件：

添加path环境变量：

验证安装成功：

在 cuda 安装路径下，进入 extras/demo_suite，然后进入 dos 窗口，分别执行以下命令：

• deviceQuery.exe
  
• bandwidthTest.exe
  

安装PyTorch

在官方文档里面找到适合你设备的PyTorch版本及对应的安装指令执行即可：https://pytorch.org/get-started/previous-versions/

要保证你选择的CUDA版本号<=你的GPU驱动程序版本
文档中的版本号仅供参考，以实际电脑环境为准

针对我的网络及设备情况，我复制了如下指令完成了Torch的安装：

conda install pytorch==2.3.1 torchvision==0.18.1 torchaudio==2.3.1 pytorch-cuda=12.1 -c pytorch -c nvidia

网络问题解决

1. 配置国内镜像源
   为了加快下载速度，可以将 Conda 的默认频道替换为国内的镜像源，例如清华大学的镜像源。执行以下命令：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --set show_channel_urls yes

2. 使用神奇魔法
   魔法1：https://jimmm.life/
   魔法2：https://pqjc.site/

离线安装：
浏览器打开链接：https://download.pytorch.org/whl/cu121

找到torch，点击进入下载页面，找到适合自己cuda版本的安装包，下载即可（使用迅雷下载比较快）

下载完成后，在Anaconda prompt界面切换到自己的虚拟环境，并将目录切换到torch安装包所在的文件夹，输入命令：

torch-2.3.1+cu121-cp310-cp310-win_amd64.whl

测试：

安装完成后，在pycharm中输入代码：

import torch

print(torch.cuda.is_available())
print(torch.__version__)

然后再安装torchvision == 0.15.2 和 torchaudio == 2.0.2，版本号需要和线上安装的版本号一致

pip install torchvision==0.18.1 torchaudio==2.3.1 --index-url https://download.pytorch.org/whl/cu121

CPU版本安装

在任务管理器中查看GPU是否为NVIDIA ：

如果驱动不是NVIDIA ，说明没有CUDA，建议安装CPU版本

或者

在cmd里面，输入nvidia-smi查看GPU驱动程序版本：

如果显示以上信息，说明没有安装NVIDIA 驱动，建议安装CPU版本

pytorch安装

在官方文档里面找到适合你设备的PyTorch的CPU版本及对应的安装指令执行即可：https://pytorch.org/get-started/previous-versions/，这里的版本仅供参考

离线安装：

浏览器打开连接：https://download.pytorch.org/whl/cpu/

找到torch，点击进入下载页面，找到适合自己cuda版本的安装包，下载即可（使用迅雷下载比较快）

其他第三方库安装

1.numpy库

pip install numpy==1.26.0 -i https://mirrors.huaweicloud.com/repository/pypi/simple

2.matplotlib库

pip install matplotlib -i https://mirrors.huaweicloud.com/repository/pypi/simple

3.pandas库

pip install pandas -i https://mirrors.huaweicloud.com/repository/pypi/simple

4.sklean库

pip install scikit-learn -i https://mirrors.huaweicloud.com/repository/pypi/simple

5.opencv库

pip install opencv-python -i https://mirrors.huaweicloud.com/repository/pypi/simple

6.torchsummary库(可选)

pip install torchsummary -i https://mirrors.huaweicloud.com/repository/pypi/simple