2080Ti算力入门指南：从硬件配置到深度学习环境搭建

1次阅读

共计 1590 个字符，预计需要花费 4 分钟才能阅读完成。

2080Ti 作为曾经的旗舰显卡，拥有 4352 个 CUDA 核心、11GB GDDR6 显存和 616GB/ s 的显存带宽。这些硬件特性使其在中等规模深度学习任务中仍具竞争力：

CUDA 核心：相比消费级显卡更多，适合并行计算
显存容量：可支持大多数 CV/NLP 模型的训练需求
带宽优势：减少数据搬运时的瓶颈

实际测试中，ResNet50 训练速度可达消费级显卡的 1.8 倍左右。

安装 NVIDIA 驱动

sudo apt purge nvidia-*
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt install nvidia-driver-470

验证驱动安装
```
nvidia-smi  # 应显示显卡信息
```

安装 CUDA Toolkit 11.3

wget https://developer.download.nvidia.com/compute/cuda/11.3.0/local_installers/cuda_11.3.0_465.19.01_linux.run
sudo sh cuda_11.3.0_465.19.01_linux.run

配置环境变量

export PATH=/usr/local/cuda-11.3/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.3/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

安装 cuDNN 8.2
需从 NVIDIA 官网下载 deb 包后执行：
```
sudo dpkg -i libcudnn8_8.2.0.53-1+cuda11.3_amd64.deb
```

在 ImageNet 数据集上的测试结果（batch_size=32）：

框架	吞吐量(images/sec)	显存占用
TensorFlow	78	9.2GB
PyTorch	85	8.7GB

PyTorch 对 2080Ti 的利用效率更高，特别是在动态图模式下。

import torch

def auto_batch_size(model, input_shape, max_mem=10):
    batch_size = 1
    while True:
        try:
            dummy = torch.randn((batch_size, *input_shape)).cuda()
            model(dummy)
            batch_size *= 2
        except RuntimeError:  # OOM
            return batch_size // 2

from torch.cuda.amp import autocast, GradScaler

scaler = GradScaler()

with autocast():
    outputs = model(inputs)
    loss = criterion(outputs, labels)

scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()

驱动版本冲突：推荐使用 470 系列驱动
CUDA 版本不匹配 ：PyTorch 需通过conda install pytorch torchvision cudatoolkit=11.3 指定版本
显存碎片化：定期重启 kernel 或使用torch.cuda.empty_cache()