CIFAR-10数据集实战：从基础CNN模型结构图到性能优化全解析

1次阅读

共计 2901 个字符，预计需要花费 8 分钟才能阅读完成。

CIFAR-10 是一个经典的图像分类数据集，包含 10 个类别的 60000 张 32×32 彩色图像，每个类别 6000 张。数据集被分为 50000 张训练图像和 10000 张测试图像。这个数据集虽然规模不大，但由于图像分辨率低、背景复杂，对模型的特征提取能力提出了挑战。

常见挑战包括：

图像尺寸小（32×32），难以提取高层次特征
类别间相似度高（如猫 / 狗、卡车 / 汽车）
训练样本数量有限，容易过拟合
计算资源有限时，需要在模型复杂度和性能间权衡

我们采用的基础 CNN 架构如下图所示（此处应有模型结构示意图，图中应包含）：

输入层：32x32x3（宽 x 高 x 通道数）
卷积层 1：3×3 卷积核，32 个过滤器，ReLU 激活
最大池化层 1：2×2 池化窗口，步长 2
卷积层 2：3×3 卷积核，64 个过滤器，ReLU 激活
最大池化层 2：2×2 池化窗口，步长 2
全连接层 1：512 个神经元，ReLU 激活
输出层：10 个神经元（对应 10 个类别），Softmax 激活

每层设计原理：

使用 3 ×3 小卷积核可以捕捉局部特征同时减少参数
池化层逐步降低空间维度，增强平移不变性
通道数逐步增加（32→64）对应特征复杂度的提升
全连接层前使用 Flatten 操作将 3D 特征图转为 1D 向量

3×3：参数量少，适合捕捉局部特征（基础选择）
5×5：感受野更大但参数量增加（3×3 的 2.78 倍）
1×1：可用于降维或增加非线性（常用于复杂模型）

实验数据：

卷积核尺寸	测试准确率	参数量
3×3	72.5%	1.2M
5×5	71.8%	3.3M

ReLU：计算简单，缓解梯度消失（默认选择）
LeakyReLU：负区间有微小梯度，防止神经元死亡
Swish：平滑非线性，有时表现更好但计算量稍大

性能对比：

激活函数	训练时间	最终准确率
ReLU	45min	72.5%
LeakyReLU	48min	73.1%
Swish	52min	73.3%

import torch
import torch.nn as nn
import torch.optim as optim
import torchvision.transforms as transforms
from torchvision.datasets import CIFAR10

# 定义 CNN 模型
class BasicCNN(nn.Module):
    def __init__(self):
        super(BasicCNN, self).__init__()
        self.conv1 = nn.Conv2d(3, 32, kernel_size=3, padding=1)
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(32, 64, kernel_size=3, padding=1)
        self.fc1 = nn.Linear(64 * 8 * 8, 512)  # 两次池化后尺寸：32→16→8
        self.fc2 = nn.Linear(512, 10)
        self.relu = nn.ReLU()

    def forward(self, x):
        x = self.pool(self.relu(self.conv1(x)))
        x = self.pool(self.relu(self.conv2(x)))
        x = x.view(-1, 64 * 8 * 8)  # 展平操作
        x = self.relu(self.fc1(x))
        x = self.fc2(x)
        return x

# 数据增强和加载
transform_train = transforms.Compose([transforms.RandomHorizontalFlip(),
    transforms.RandomCrop(32, padding=4),
    transforms.ToTensor(),
    transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))
])

trainset = CIFAR10(root='./data', train=True, download=True, transform=transform_train)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=128, shuffle=True)

# 训练配置
model = BasicCNN()
criterion = nn.CrossEntropyLoss()
optimizer = optim.Adam(model.parameters(), lr=0.001)

# 训练循环
for epoch in range(50):
    running_loss = 0.0
    for i, data in enumerate(trainloader, 0):
        inputs, labels = data
        optimizer.zero_grad()
        outputs = model(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()
        running_loss += loss.item()
    print(f'Epoch {epoch+1}, Loss: {running_loss/len(trainloader):.3f}')

优化前后关键指标对比：