Anaconda环境下PyTorch无法调用GPU的深度排查与解决方案

1次阅读

共计 2155 个字符，预计需要花费 6 分钟才能阅读完成。

最近在 Anaconda 环境中使用 PyTorch 时，发现 torch.cuda.is_available() 总是返回 False，导致模型训练只能跑在 CPU 上，速度慢了数十倍。这个问题看似简单，实则可能涉及 CUDA 驱动、环境配置、版本兼容性等多个环节。经过一番折腾，终于整理出完整的排查流程和解决方案，希望对遇到同样问题的朋友有所帮助。

基础检查清单
确认 NVIDIA 显卡驱动已安装（nvidia-smi命令可正常输出）
检查 CUDA Toolkit 版本与驱动兼容性（详见下文对照表）
验证 conda 环境中 PyTorch 的 CUDA 版本是否匹配
版本兼容性矩阵
| CUDA Toolkit 版本 | 最低驱动版本 | PyTorch 支持版本 |
|—————-|————-|—————-|
| 11.8 | 520.56.06 | 2.0+ |
| 11.7 | 515.48.07 | 1.13+ |
| 11.6 | 510.47.03 | 1.12+ |

注：完整表格可参考NVIDIA 官方文档

环境污染检测
当存在以下情况时可能出现环境变量冲突：
系统全局安装的 CUDA 与 conda 环境中的 CUDA 版本不一致
PATH 变量中包含多个 CUDA 路径
之前安装过其他深度学习框架残留配置

分步诊断流程
运行 nvcc --version 检查 CUDA 编译器版本
执行 conda list cudatoolkit 查看 conda 环境 CUDA 版本
使用 torch.version.cuda 获取 PyTorch 编译时的 CUDA 版本
比较上述三个版本号是否一致

** 环境修复代码示例

import torch
import logging

try:
    assert torch.cuda.is_available()
    logger.info(f'GPU 可用，设备数量：{torch.cuda.device_count()}')
    logger.info(f'当前设备：{torch.cuda.get_device_name(0)}')
    logger.info(f'CUDA 版本：{torch.version.cuda}')

    # 显存带宽测试
    a = torch.randn(10000, 10000, device='cuda')
    b = torch.randn(10000, 10000, device='cuda')
    %timeit a @ b

except Exception as e:
    logger.error(f'GPU 检测失败：{str(e)}')
    # 自动修复建议
    if 'CUDA' in str(e):
        logger.warning('尝试执行：conda install pytorch torchvision torchaudio cudatoolkit=11.7 -c pytorch')

多版本处理方案

通过 conda 指定完整版本号安装：

conda install pytorch==1.12.1 torchvision==0.13.1 torchaudio==0.12.1 cudatoolkit=11.6 -c pytorch

或使用 pip 安装预编译版本：

pip install torch==1.12.1+cu116 torchvision==0.13.1+cu116 --extra-index-url https://download.pytorch.org/whl/cu116

Docker 镜像构建建议

FROM nvidia/cuda:11.7.1-base

# 设置 conda 环境
RUN curl -o Miniconda3.sh https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh && \
    bash Miniconda3.sh -b -p /opt/conda && \
    rm Miniconda3.sh

# 安装指定版本 PyTorch
RUN /opt/conda/bin/conda install -y pytorch torchvision torchaudio cudatoolkit=11.7 -c pytorch

混合精度训练配置

from torch.cuda.amp import autocast, GradScaler

scaler = GradScaler()

with autocast():
    outputs = model(inputs)
    loss = criterion(outputs, targets)

scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()