共计 1716 个字符，预计需要花费 5 分钟才能阅读完成。

AWS GPU 服务器入门指南：从零搭建深度学习环境

1. AWS GPU 实例类型对比

AWS 提供了多种 GPU 实例类型，适合不同的深度学习任务需求。以下是常见的几种实例及其特点：

• p3 系列 ：适合高性能计算和深度学习训练，搭载 NVIDIA Tesla V100 GPU，显存 16GB 或 32GB，适用于大模型训练。
• g4dn 系列 ：性价比高，搭载 NVIDIA T4 GPU，显存 16GB，适合推理任务和小规模训练。
• p2 系列 ：较老的实例类型，搭载 NVIDIA K80 GPU，显存 12GB，适合预算有限的用户。

选择实例时，需要考虑以下几点：

1. 任务类型 ：训练大模型选择 p3，推理任务选择 g4dn。
2. 预算 ：p3 价格较高，g4dn 更经济实惠。
3. 显存需求 ：显存越大，支持的模型规模越大。

2. 安装 NVIDIA 驱动和 CUDA 工具包

步骤 1：启动 GPU 实例

1. 登录 AWS 控制台，选择 EC2 服务。
2. 点击“启动实例”，选择适合的 GPU 实例类型（如 g4dn.xlarge）。
3. 选择 Amazon Linux 2 或 Ubuntu 作为操作系统。
4. 配置安全组，确保 SSH 端口（22）开放。
5. 启动实例并连接。

步骤 2：安装 NVIDIA 驱动

以下是在 Ubuntu 上安装 NVIDIA 驱动的命令：

# 更新系统
sudo apt-get update

# 安装依赖
sudo apt-get install -y build-essential

# 添加 NVIDIA 驱动仓库
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt-get update

# 安装驱动（以 470 版本为例）sudo apt-get install -y nvidia-driver-470

# 重启系统
sudo reboot

步骤 3：安装 CUDA 工具包

# 下载 CUDA 安装包（以 CUDA 11.4 为例）wget https://developer.download.nvidia.com/compute/cuda/11.4.0/local_installers/cuda_11.4.0_470.42.01_linux.run

# 安装 CUDA
sudo sh cuda_11.4.0_470.42.01_linux.run

# 配置环境变量
echo 'export PATH=/usr/local/cuda-11.4/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.4/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

3. 常见问题排查指南

驱动版本冲突

如果安装驱动后无法识别 GPU，可能是驱动版本不兼容。可以尝试以下步骤：

1. 卸载现有驱动：

   sudo apt-get purge nvidia*

2. 重新安装适合的驱动版本。

CUDA 安装失败

如果 CUDA 安装失败，可能是依赖项缺失。可以运行以下命令安装依赖：

sudo apt-get install -y freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libgl1-mesa-glx libglu1-mesa libglu1-mesa-dev

4. 环境验证方法

验证 NVIDIA 驱动

nvidia-smi

如果驱动安装成功，会显示 GPU 信息。

验证 CUDA

nvcc --version

安装深度学习框架测试

安装 PyTorch 并测试 GPU 是否可用：

pip install torch torchvision

# 测试 GPU
python -c "import torch; print(torch.cuda.is_available())"

如果输出 True，则 GPU 可用。

5. 成本优化建议

1. 使用 Spot 实例 ：Spot 实例价格比按需实例低很多，适合非紧急任务。
2. 自动停止实例 ：训练完成后自动停止实例，避免不必要的费用。
3. 选择合适的实例类型 ：根据任务需求选择性价比最高的实例。

结尾

现在你已经掌握了在 AWS 上搭建 GPU 服务器环境的基本步骤。建议你动手实践，选择适合的实例类型，按照本文的步骤安装驱动和 CUDA，并测试深度学习框架。如果在实践中遇到问题，欢迎在评论区分享，我们一起解决。

Happy coding!