CIFAR-10数据集实战：从基础CNN模型结构图到性能优化全解析

1次阅读

没有评论

共计 2585 个字符，预计需要花费 7 分钟才能阅读完成。

CIFAR-10 数据集是计算机视觉领域常用的基准数据集，包含 10 个类别的 60000 张 32×32 彩色图像。每个类别有 6000 张图像，其中 5000 张用于训练，1000 张用于测试。数据集的主要特点包括：

图像尺寸小（32×32），适合快速验证模型
类别多样（飞机、汽车、鸟等），具有代表性
图像质量一般，存在噪声和变形

在使用 CIFAR-10 训练 CNN 模型时，常见的挑战包括：

由于图像分辨率低，模型难以提取有效特征
类别间相似度高（如猫和狗），容易造成误分类
训练数据量相对较少，容易出现过拟合
模型在测试集上表现往往不如训练集

我们设计的基础 CNN 模型结构如下图所示（此处应有模型结构图）：

[Input(3,32,32)] -> [Conv2d(3->32,k=3)] -> [ReLU] -> [MaxPool2d(2)] 
-> [Conv2d(32->64,k=3)] -> [ReLU] -> [MaxPool2d(2)] 
-> [Flatten] -> [Linear(64*7*7, 512)] -> [ReLU] 
-> [Linear(512, 10)] -> [Softmax]

逐层解析：

输入层：接受 3 通道的 32×32 图像
第一卷积层：32 个 3 ×3 卷积核，提取低级特征（边缘、纹理）
第一池化层：2×2 最大池化，下采样减少计算量
第二卷积层：64 个 3 ×3 卷积核，提取更复杂的特征
第二池化层：再次下采样
全连接层：将特征图展平后分类

设计考虑：

使用小卷积核（3×3）可以捕捉局部特征同时减少参数
逐步增加通道数（32->64）构建层次化特征表示
池化层控制特征图尺寸增长

通过实验对比不同配置的性能差异：

卷积核大小对比（固定其他参数）：
3×3 卷积：测试准确率 72.3%，训练时间 15 分钟
5×5 卷积：测试准确率 70.1%，训练时间 18 分钟
7×7 卷积：测试准确率 68.5%，训练时间 22 分钟

结论：小卷积核在准确率和效率上表现更好

激活函数选择：
ReLU：准确率 72.3%，训练稳定
LeakyReLU：准确率 72.1%，梯度消失问题更少
Sigmoid：准确率 65.2%，存在梯度消失
数据增强策略：
随机水平翻转：+2.1% 准确率
随机裁剪：+1.8% 准确率
颜色扰动：+0.7% 准确率

import torch
import torch.nn as nn
import torchvision.transforms as transforms
import torchvision.datasets as datasets

# 数据预处理
train_transform = transforms.Compose([transforms.RandomHorizontalFlip(),
    transforms.RandomCrop(32, padding=4),
    transforms.ToTensor(),
    transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))
])

# 加载数据集
train_set = datasets.CIFAR10(root='./data', train=True, download=True, transform=train_transform)
train_loader = torch.utils.data.DataLoader(train_set, batch_size=128, shuffle=True)

# 定义模型
class CIFAR10CNN(nn.Module):
    def __init__(self):
        super(CIFAR10CNN, self).__init__()
        self.conv1 = nn.Conv2d(3, 32, kernel_size=3, padding=1)
        self.conv2 = nn.Conv2d(32, 64, kernel_size=3, padding=1)
        self.pool = nn.MaxPool2d(2, 2)
        self.fc1 = nn.Linear(64 * 8 * 8, 512)  # 注意尺寸计算
        self.fc2 = nn.Linear(512, 10)
        self.dropout = nn.Dropout(0.25)

    def forward(self, x):
        x = self.pool(nn.functional.relu(self.conv1(x)))
        x = self.pool(nn.functional.relu(self.conv2(x)))
        x = x.view(-1, 64 * 8 * 8)
        x = self.dropout(x)
        x = nn.functional.relu(self.fc1(x))
        x = self.fc2(x)
        return x

# 训练循环
model = CIFAR10CNN()
criterion = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

for epoch in range(20):
    for images, labels in train_loader:
        optimizer.zero_grad()
        outputs = model(images)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()

优化前后对比：